Skip to main content

Command Palette

Search for a command to run...

Daily Tech Brief — 09/09/2026

Updated
23 min readView as Markdown
Daily Tech Brief — 09/09/2026
D

A passionate full-stack developer from @ePlus.DEV

Bản tin hằng ngày dành cho developer: agentic security, post-quantum TLS, AI evaluation trong CI/CD, MLOps governance, inference performance và cloud networking — tập trung vào các công bố kỹ thuật mới ngày 08/09/2026.


📌 Executive Summary

  • Google Threat Intelligence Group cảnh báo attacker đang chuyển từ “dùng AI để hỗ trợ” sang agentic automation thực sự. Trong một incident Q2/2026, threat actor compromise cloud resource rồi lập kế hoạch, xây và chạy chiến dịch credential harvesting có agent hỗ trợ trong chưa đầy sáu giờ.

  • GTIG cũng ghi nhận attacker bắt đầu tấn công trực tiếp AI coding assistants và LLM security scanners: trojanized MCP packages, malicious workspace configuration, prompt injection trong source code và đánh cắp OIDC token từ GitHub Actions runners.

  • Đáng lo nhất với developer là một số payload có thể dùng OIDC token lấy từ CI để publish package bị compromise bằng trusted-publishing flow, khiến artifact vẫn mang cryptographic attestations hợp lệ. Điều này cho thấy supply-chain trust không thể chỉ dừng ở việc “signature hợp lệ”.

  • Cloudflare triển khai Automatic Key Exchange cho origin TLS 1.3, tự scan khả năng key exchange của origin rồi chọn thuật toán phù hợp ngay từ ClientHello đầu tiên, ưu tiên hybrid post-quantum X25519MLKEM768 khi server hỗ trợ.

  • Kết quả Cloudflare công bố khá lớn: 99,2% post-quantum TLS connections trong nhóm đã scan hoàn thành trong một round trip; lượng PQ origin traffic tăng từ khoảng 25 lên 45 tỷ connections/ngày; tỷ lệ HelloRetryRequest tổng thể giảm từ khoảng 52% xuống 3,7%.

  • GitHub đưa Automatic Dependabot access to GitHub-hosted registries trở lại, cho phép Dependabot đọc private GitHub Packages/GHCR bằng GITHUB_TOKEN và repository access grant thay vì phải giữ PAT riêng trong dependabot.yml.

  • GitHub trước đó từng rollback feature này vì conflict khiến một số npm update jobs resolve public packages qua GitHub Packages. Bản mới sử dụng GitHub Packages credentials như fallback authentication, để explicit registry routing vẫn được ưu tiên.

  • AWS công bố một CI quality-gate pattern cho AI agents: Amazon Bedrock AgentCore Evaluations + GitHub Actions có thể chạy test prompts, chấm correctness/tool selection/tool parameters/trajectory và fail pull request nếu agent behavior regress.

  • AgentCore còn hỗ trợ deterministic code-based evaluators và trajectory evaluators. Đây là bước quan trọng để agent development tiến gần software engineering thông thường: agent behavior trở thành thứ có thể regression-test trong CI.

  • SageMaker Feature Store có UpdateRecord, cho phép update một số feature trong record mà không cần read-modify-write toàn bộ object. AWS thực hiện atomic merge, kiểm tra EventTime để reject stale write và vẫn replicate complete snapshot sang offline store.

  • Managed MLflow → SageMaker Model Registry sync được mở rộng mạnh, mang theo training metrics, evaluation results, inference specification và lineage, đồng thời hỗ trợ model lifecycle promotion.

  • AWS cũng đưa ra hai architecture cho cross-account model governance: centralized hub-and-spoke và hybrid topology dành cho regulated environments không cho development account ghi trực tiếp vào governance account.

  • Benchmark Qwen3-Coder trên SageMaker cho thấy G7/Blackwell đạt khoảng 391 output tokens/s, cao hơn 60,8% so với G6 trong benchmark cụ thể, đồng thời giảm P99 latency 54,7%. Một lần nữa: model serving phải benchmark bằng workload thật, không chọn GPU chỉ theo thế hệ.

  • AWS tiết lộ cách họ hợp nhất routing control plane của global border network. Kiến trúc mới dùng single source of truth, unidirectional route distribution và end-to-end tunneling; AWS cho biết route convergence ở một số fabrics cải thiện tới 96%.

  • Pathway giới thiệu cách phát triển BDH — một post-transformer architecture reasoning trong latent space — trên SageMaker HyperPod. Chỉ khoảng 5% neurons active tại một thời điểm, cho thấy research đang tiếp tục tìm alternative cho việc scale transformer + chain-of-thought tokens.

  • Theme lớn hôm nay là “verify the system, not just the output”: attacker có thể exploit agent toolchains, AI agent cần regression tests, model cần lifecycle governance, TLS cần active capability discovery và network control plane cần validate configuration trước production.


📈 Hôm nay có gì nổi bật?

Những ngày trước, Daily Tech Brief nói nhiều về:

agent intelligence
long-horizon reasoning
memory
model capability

Ngày hôm nay lại cho thấy mặt còn lại:

khi agent đủ mạnh để hành động, attacker cũng bắt đầu thiết kế attack chain dành riêng cho agent.

Security assumption cũ thường là:

developer
  -> đọc dependency
  -> chạy code

Nhưng AI coding environment có thể trở thành:

repository
  -> hidden agent config
  -> prompt injection
  -> model executes command
  -> CI credential exposed
  -> package published

Attack surface vì vậy không còn chỉ là source code.

Nó mở rộng sang:

.vscode/
.claude/
.cursor/
MCP servers
agent instructions
tool schemas
CI environment
OIDC credentials

Điểm thứ hai là verification đang được product hóa.

AgentCore Evaluations đưa agent test vào GitHub Actions.

MLflow sync đưa metrics và lineage vào Model Registry.

Cloudflare scan TLS capabilities trước khi chọn key exchange.

AWS validate routing changes trước khi đẩy chúng tới một global network.

Tất cả đều có cùng pattern:

proposed behavior
  ↓
observe / evaluate
  ↓
compare against policy
  ↓
allow production side effect

Đây là architecture ngày càng hợp lý cho AI systems.

Điểm thứ ba là performance.

Cloudflare loại bỏ một round trip.

AWS giảm route convergence.

Blackwell G7 tăng tokens/sec và giảm tail latency.

Feature Store loại bỏ read-modify-write.

Các release hôm nay không khoe nhiều “AI intelligence”.

Chúng tối ưu thứ production engineer thực sự cảm nhận:

latency
correctness
failure rate
operational complexity

📰 Tin nổi bật

🛡️ Agentic Cybersecurity

Google: attacker đang chuyển từ prompting sang autonomous AI workflows

Google Threat Intelligence Group ngày 08/09 công bố báo cáo mới về adversarial AI.

Theo GTIG, threat actors đang chuyển từ:

human
  -> prompt model
  -> manually execute

sang:

human objective
  -> agentic workflow
  -> automated reconnaissance
  -> automated troubleshooting
  -> credential harvesting

Trong một incident Q2/2026, attacker compromise một cloud resource rồi lập kế hoạch, xây và triển khai chiến dịch mass credential harvesting có agent hỗ trợ trong chưa đầy sáu giờ.

GTIG cũng theo dõi UNC6780/TeamPCP tấn công các ecosystem:

  • PyPI;

  • npm;

  • Docker Hub;

  • MCP tooling;

  • GitHub Actions;

  • AI coding environments.

Tác động với developer

AI agents không chỉ tạo ra attack capability mới.

Chúng cũng trở thành attack surface mới.

Một repository hiện có thể chứa:

code
dependencies
CI config
agent config
MCP config
hidden prompt instructions

Nếu coding assistant tự đọc những file đó, malicious repository content có thể tác động tới tool behavior.

Developer nên làm gì?

Với AI-assisted development:

  • review hidden workspace directories;

  • không auto-execute setup commands từ repository chưa tin cậy;

  • sandbox coding agents;

  • giới hạn CI token scope;

  • không đưa long-lived secrets vào agent environment;

  • scan MCP/package provenance;

  • coi prompt/config files như executable trust inputs.

Nguồn: Google Cloud — GTIG AI Threat Tracker: From Prompting to Autonomy


📦 Supply-Chain Security

Malware có thể nhắm vào OIDC trusted-publishing flow

Một trong những phát hiện đáng chú ý nhất của GTIG liên quan tới CI/CD.

Google cho biết DUSTMAKER có chức năng:

  • phát hiện mình đang chạy trong CI;

  • lấy OIDC token từ process memory của GitHub Actions runner;

  • dùng token đó như trusted publisher;

  • publish compromised package.

Nếu attacker có token hợp lệ, package độc hại vẫn có thể đi qua một số automated trust check dựa vào publisher identity hoặc cryptographic attestation.

Tác động với developer

Trusted publishing loại bỏ long-lived package token — rất tốt.

Nhưng:

valid identity
  ≠
valid intent

Nếu runtime phát hành package đã bị compromise, cryptographic signature chỉ chứng minh:

workflow hợp lệ đã ký artifact này.

Nó không chứng minh:

source code bên trong artifact là tốt.

Developer nên làm gì?

Supply-chain verification nên có nhiều lớp:

repository identity
  +
workflow identity
  +
source review
  +
dependency scanning
  +
artifact diff
  +
signing
  +
provenance

Đừng dùng attestation như một malware scanner.

Nguồn: Google Cloud — GTIG AI Threat Tracker


🔐 Post-Quantum TLS

Cloudflare Automatic Key Exchange giảm gần như toàn bộ extra round trip cho PQ-capable origins

TLS 1.3 yêu cầu client gửi key share ngay trong ClientHello.

Trước đây Cloudflare thường lead bằng:

X25519

Nếu origin muốn hybrid post-quantum:

X25519MLKEM768

server phải trả HelloRetryRequest.

Điều này tạo thêm một network round trip.

Cloudflare giờ sử dụng Automatic Key Exchange.

Platform chủ động scan origin để biết server hỗ trợ key-agreement group nào, rồi chọn strongest compatible option ngay connection đầu tiên:

X25519MLKEM768
  ↓ fallback
X25519
P-256
P-384
P-521

Origin được scan lại mỗi ngày để configuration có thể tự thích ứng khi TLS stack thay đổi.

Kết quả Cloudflare công bố

Trong scanned cohort:

  • 99,2% PQ TLS 1.3 connections hoàn tất trong một round trip;

  • post-quantum traffic tăng khoảng 25 → 45 tỷ connections/ngày;

  • HRR rate tổng thể giảm khoảng 52% → 3,7%;

  • p90 latency giảm hơn 150 ms cho nhóm origin được đo.

Tác động với developer

Security upgrade không nhất thiết phải đánh đổi latency.

Điểm hay ở architecture này là:

probe capability trước, negotiate chính xác sau.

Đây cũng là pattern có thể dùng trong protocol/service discovery nói chung.

Developer nên làm gì?

Nếu quản origin TLS:

  • cập nhật OpenSSL/BoringSSL/rustls;

  • kiểm tra X25519MLKEM768;

  • test middleboxes/load balancers;

  • kiểm tra PQ readiness;

  • đừng bật “PQ-only” trước khi toàn bộ origin fleet support.

Nguồn: Cloudflare — Automatic Key Exchange


🤖 Agent Testing

Amazon Bedrock AgentCore đưa agent regression tests vào GitHub Actions

AWS ngày 08/09 công bố architecture mẫu để dùng AgentCore Evaluations như CI quality gate.

Workflow:

PR
  -> deploy test agent
  -> invoke test prompts
  -> collect traces
  -> evaluate
  -> compare threshold
  -> pass/fail PR

Evaluators có bốn nhóm.

Built-in evaluators

Ví dụ:

  • Helpfulness;

  • Correctness;

  • GoalSuccessRate;

  • ToolSelectionAccuracy;

  • ToolParameterAccuracy.

Trajectory evaluators

Có thể kiểm tra:

exact tool order

hoặc:

expected tools xuất hiện theo thứ tự

hoặc:

expected tools xuất hiện bất kỳ thứ tự nào

Code-based evaluators

Lambda function chạy deterministic validation.

Ví dụ:

schema valid?
regex match?
required field exists?

không cần LLM-as-a-judge.

Third-party/custom evaluators

Có thể dùng custom judge hoặc integration từ DeepEval/AutoEval.

Tác động với developer

AI agent cuối cùng cũng đang có equivalent của:

unit test
integration test
regression test

Thay vì:

“Tôi thử chat vài lần và thấy ổn.”

Team có thể đặt:

GoalSuccessRate >= threshold

hoặc:

ToolSelectionAccuracy >= threshold

trong pull-request pipeline.

Developer nên làm gì?

Tạo bộ eval cố định theo production incidents.

Mỗi bug agent từng gây ra nên trở thành:

regression prompt
  +
expected behavior

Tương tự cách bug software trở thành unit test.

Nguồn: AWS — Automated agent evaluation with Amazon Bedrock AgentCore and GitHub Actions


📦 GitHub Supply Chain

Dependabot đọc private GitHub Packages mà không cần PAT

GitHub ngày 08/09 bật lại Automatic Dependabot access to GitHub-hosted registries.

Dependabot giờ có thể yêu cầu:

packages: read

qua GITHUB_TOKEN.

Nếu package đã grant repository quyền Read trong:

Manage Actions access

Dependabot có thể sử dụng grant đó để pull package từ:

*.pkg.github.com
ghcr.io

Không cần thêm PAT registry riêng vào dependabot.yml.

Một chi tiết quan trọng

Feature này từng được release ngày 23/06 rồi rollback.

Nguyên nhân:

một số npm update jobs có thể resolve public packages thông qua GitHub Packages không đúng mong muốn.

Phiên bản hiện tại dùng automatic GitHub Packages credential như:

fallback authentication

Explicit registry credentials và normal registry routing vẫn được ưu tiên.

Tác động với developer

Bớt PAT đồng nghĩa:

  • ít secret rotation;

  • ít credential leakage;

  • permission gắn với repository access model hiện có.

Developer nên làm gì?

Nếu Dependabot đang dùng PAT chỉ để đọc GHCR/GitHub Packages:

  • grant repository Read trong package settings;

  • test Dependabot update;

  • bỏ PAT registry config không còn cần;

  • kiểm tra package routing sau migration.

Nguồn: GitHub — Automatic Dependabot access to GitHub-hosted registries


🧩 Feature Engineering

SageMaker Feature Store có feature-level writes

SageMaker Feature Store bổ sung API:

UpdateRecord

cho phép update một hoặc nhiều features mà không cần:

read full record
  -> merge client-side
  -> rewrite full record

AWS xử lý:

IAM validation
  -> EventTime check
  -> atomic merge
  -> offline snapshot replication

API hoạt động với cả:

  • Standard online store;

  • In-Memory online store.

Một request hỗ trợ tối đa 100 feature values.

Event-time protection

Nếu update EventTime, timestamp mới phải lớn hơn timestamp đang có.

Nếu stale:

HTTP 409

và toàn bộ update bị reject.

Tác động với developer

Feature pipelines thường chạy độc lập:

clickstream pipeline
purchase pipeline
risk pipeline

Trước đây chúng có thể overwrite field của nhau nếu mỗi pipeline rewrite full record.

Feature-level atomic updates giảm coupling đáng kể.

Developer nên làm gì?

Với real-time ML:

  • tách ownership của từng feature;

  • dùng EventTime để chống stale writes;

  • tránh client-side read-modify-write;

  • kiểm tra offline-store consistency cho training.

Nguồn: AWS — SageMaker Feature Store UpdateRecord


🧬 MLOps Governance

MLflow → SageMaker Model Registry sync giờ mang cả metrics, lineage và deploy specification

Managed MLflow trên SageMaker đã có model synchronization.

Phần mới ngày 08/09 là dữ liệu sync đầy đủ hơn nhiều.

Model Registry giờ nhận:

  • model parameters;

  • training metrics;

  • evaluation metrics;

  • training dataset location;

  • artifact path;

  • inference container;

  • inference specification;

  • lineage.

Lifecycle stage cũng có thể được đồng bộ từ MLflow.

Ví dụ:

experiment
  -> registered candidate
  -> staging
  -> governance review
  -> production approval

Tác động với developer

Model registry chỉ lưu:

model-v27.pkl

không thực sự là governance.

Muốn approve model, reviewer phải biết:

nó được train từ đâu?
metric bao nhiêu?
container nào?
dataset nào?
experiment nào?

Lineage biến model artifact thành traceable production component.

Developer nên làm gì?

Nếu đang triển khai MLflow:

  • capture dataset/artifact provenance;

  • log inference image;

  • sync evaluation metrics;

  • đưa promotion vào IAM policy;

  • khóa approved model against mutation.

Nguồn: AWS — Govern models with MLflow and SageMaker Model Registry, Part 1


🏛️ Cross-Account AI Governance

AWS đưa ra hai pattern governance cho model ở multi-account environment

Phần 2 của series mở rộng model governance sang nhiều AWS accounts.

Pattern 1 — Hub-and-spoke

Central account chứa:

MLflow
Model Registry
governance

Development accounts có thể register model vào shared MLflow app thông qua AWS RAM.

Ưu điểm:

một central control point

Nhược điểm:

development account có indirect write path vào governance hub

Pattern 2 — Hybrid

Mỗi development account giữ:

local MLflow
local Model Registry

Model chỉ được copy vào governance hub sau local approval.

Hub nhận:

  • copy của model artifact;

  • rewritten inference specification;

  • provenance metadata.

Development account không ghi trực tiếp vào hub.

Tác động với developer

Đây là architecture đáng chú ý với regulated environments.

Nó phân biệt:

developer convenience

và:

production trust boundary

thay vì cố dùng một topology cho mọi organization.

Developer nên làm gì?

Nếu data/model governance nghiêm ngặt:

  • development và governance tách account;

  • approval là explicit event;

  • copy artifact thay vì shared mutable dependency;

  • model package cần source provenance;

  • deployment chỉ consume approved version.

Nguồn: AWS — Govern models with MLflow and SageMaker Model Registry, Part 2


⚡ LLM Inference Performance

G7/Blackwell tăng mạnh throughput trong benchmark Qwen3-Coder

AWS benchmark small-LLM inference trên:

  • G5;

  • G6;

  • G6e;

  • G7.

Với workload Qwen3-Coder được test, G7 đạt khoảng:

391,3 output tokens/s

AWS báo cáo so với G6:

  • throughput +60,8%;

  • average latency giảm 37,6%;

  • P99 giảm 54,7%.

So với G5:

  • throughput +13%;

  • average latency giảm 10,8%;

  • P99 giảm 20,2%.

Streaming benchmark trên G7 ghi nhận:

P50 TTFT ≈ 118 ms
ITL ≈ 8,9 ms
throughput ≈ 408 tok/s

Tác động với developer

Infrastructure benchmark cần đo:

model
quantization
serving runtime
request shape
concurrency
streaming

Chỉ nói:

Blackwell nhanh hơn.

không đủ để capacity plan.

Developer nên làm gì?

Benchmark production traffic với:

  • TTFT;

  • ITL;

  • p50/p95/p99;

  • tokens/sec;

  • cost/million output tokens;

  • concurrent users.

Tối ưu theo cost per solved request, không chỉ raw tokens/sec.

Nguồn: AWS — Benchmarking small LLM inference on SageMaker AI


🌐 Cloud Networking

AWS hợp nhất global routing control plane

AWS ngày 08/09 mô tả multi-year migration của border network sang một unified routing architecture.

Trước đây nhiều phần network có:

independent control planes

mỗi hệ thống converge theo tốc độ riêng.

Architecture mới dựa trên ba thành phần.

1. Unidirectional control plane

Routing information đi theo một hướng rõ ràng.

Mỗi thành phần học route trực tiếp từ source thay vì dependency chain phức tạp.

2. End-to-end tunneling

Traffic được tunnel tới destination fabric mà control plane đã chọn.

Điều này giảm tác động của transient routing inconsistencies trong thời gian convergence.

3. Single unified control plane

AWS thay nhiều independent routing systems bằng một source of truth cho toàn border network.

AWS cho biết route convergence trên một số fabrics cải thiện tới:

96%

Tác động với developer

Đây là distributed-systems lesson rất đáng đọc.

Khi có nhiều control planes:

eventual agreement

có thể trở thành latency/failure source.

Một source of truth đơn giản hơn có thể giảm:

  • divergence;

  • troubleshooting complexity;

  • transient routes;

  • convergence delays.

Developer nên làm gì?

Trong application infrastructure, review những nơi có:

duplicate config authorities

Ví dụ:

Terraform
console config
operator
application discovery

Nếu nhiều components cùng quyết định state, bạn đang tự xây một routing-control-plane problem thu nhỏ.

Nguồn: AWS — How AWS unified its routing control plane


🧠 Post-Transformer Research

Pathway phát triển BDH: reasoning trong latent space thay vì chain-of-thought tokens

Pathway đang nghiên cứu Baby Dragon Hatchling — BDH trên SageMaker HyperPod.

Đây là một architecture khác transformer truyền thống.

Thay vì luôn externalize reasoning thành:

token
  -> token
  -> token

BDH thực hiện reasoning trong latent state.

Architecture mô hình hóa network các neuron-like particles có:

  • sparse local interactions;

  • synapse-like memory;

  • Hebbian learning;

  • latent reasoning.

Pathway cho biết khoảng:

5% neurons

active tại một thời điểm.

Training infrastructure sử dụng H200 GPU, EFA và EC2 UltraCluster.

Tác động với developer

Chain-of-thought tokens có chi phí:

latency
inference tokens
context consumption

Nếu latent reasoning architectures trưởng thành, economics của reasoning model có thể thay đổi đáng kể.

Developer nên làm gì?

Chưa phải lúc rewrite production architecture quanh BDH.

Nhưng với AI infrastructure/research:

  • theo dõi non-transformer architectures;

  • benchmark total compute, không chỉ output tokens;

  • phân biệt visible reasoning với internal computation;

  • đừng assume token-heavy reasoning là architecture cuối cùng.

Nguồn: AWS — Pathway’s brain-inspired architecture on SageMaker HyperPod


🔥 Top 5 đáng chú ý nhất hôm nay

Hạng Chủ đề Vì sao đáng chú ý
1 GTIG: agentic cyber attacks Attackers đang tối ưu trực tiếp cho coding agents, MCP, CI và AI security scanners thay vì chỉ dùng LLM để viết phishing text.
2 Agent evaluation trong CI AI behavior bắt đầu được regression-test và dùng làm PR quality gate giống software thông thường.
3 Cloudflare Automatic Key Exchange Post-quantum security được triển khai ở quy mô hàng chục tỷ TLS connections/ngày mà đồng thời giảm latency.
4 MLflow → Model Registry governance Metrics, lineage, inference specification và approval lifecycle được gắn thành một traceable model artifact.
5 G7 LLM inference benchmark Một ví dụ rõ rằng GPU selection phải dựa trên TTFT, tail latency, throughput và cost của workload thật.

🛠 Công cụ đáng thử

Amazon Bedrock AgentCore Evaluations

Tool đáng thử nhất hôm nay nếu team đang có production agent.

Thay vì manual testing:

prompt vài lần
  -> thấy ổn
  -> merge

hãy thử:

regression prompts
  -> trace
  -> evaluators
  -> threshold
  -> PR gate

AgentCore evaluation + GitHub Actions


Cloudflare Radar — Post-Quantum readiness check

Nếu đang quản public origins, đây là cách đơn giản để kiểm tra server/network path đã hỗ trợ PQ key exchange hay chưa.

Cloudflare Automatic Key Exchange


sagemaker-mlflow

Plugin chính thức kết nối MLflow với SageMaker và Model Registry.

Đặc biệt đáng xem sau update ngày 08/09 vì model metadata, lifecycle và lineage đang được biến thành governance primitives.

github.com/aws/sagemaker-mlflow


📚 Bài viết nên đọc

GTIG AI Threat Tracker: From Prompting to Autonomy

Bài quan trọng nhất hôm nay với developer dùng coding agents.

Nó cho thấy một attack chain hiện đại có thể đi qua:

package
MCP server
workspace config
prompt injection
CI token
trusted publisher

Đọc trên Google Cloud


Automatic Key Exchange

Một bài distributed-systems/security rất đáng đọc.

Cloudflare giải được bài toán:

stronger cryptography

mà không chấp nhận:

extra network round trip

bằng active capability discovery.

Đọc trên Cloudflare


Automated agent evaluation with AgentCore and GitHub Actions

Nếu đang tìm cách đưa agent testing vào CI, đây là bài practical nhất hôm nay.

Đọc trên AWS


How AWS unified its routing control plane

Một bài hay về distributed control planes, route convergence và migration một global live network mà không downtime.

Đọc trên AWS


🚀 GitHub Repository nổi bật

awslabs/awsome-distributed-ai

Repository nổi bật nhất hôm nay nếu quan tâm distributed AI infrastructure.

Nó chứa:

  • SageMaker HyperPod architectures;

  • EFA configurations;

  • distributed-training examples;

  • observability;

  • NCCL/NVSHMEM microbenchmarks.

Repository cũng được dùng làm reference trong bài Pathway BDH.

github.com/awslabs/awsome-distributed-ai


aws/sagemaker-mlflow

Official SageMaker MLflow plugin.

Bản plugin hiện hỗ trợ authentication bằng IAM/SigV4 và integration với SageMaker Model Registry; những update mới về session injection và model metadata khiến repo đáng theo dõi hơn với multi-account MLOps.

github.com/aws/sagemaker-mlflow


aws-samples/mlops-sagemaker-mlflow

Một repository hands-on tốt nếu muốn thử end-to-end MLOps:

feature engineering
  -> training
  -> MLflow
  -> evaluation
  -> registry
  -> deployment

github.com/aws-samples/mlops-sagemaker-mlflow


💬 Góc nhìn của mình

Tin đáng suy nghĩ nhất hôm nay không phải benchmark GPU.

Đó là báo cáo GTIG.

Trong vài năm, chúng ta đã học cách bảo vệ:

source code
package dependencies
CI secrets

Nhưng agentic development đưa thêm một nhóm asset mới:

prompts
agent config
MCP servers
workspace instructions
model tool permissions

Một file nằm trong:

.cursor/
.vscode/
.claude/

có thể trông giống metadata.

Nhưng nếu AI agent tự đọc và hành động dựa trên nó, file đó thực chất trở thành:

executable policy input.

Đây là một thay đổi tư duy rất quan trọng.

Điểm thứ hai là trusted publishing.

OIDC tốt hơn PAT rất nhiều.

Nhưng GTIG cho thấy một principle security cổ điển vẫn đúng:

authentication không chứng minh intent.

Token hợp lệ chỉ nói:

process này được phép publish.

Không nói:

artifact này sạch.

Do đó supply-chain security cần nhiều independent checks.

Điểm thứ ba là agent evaluation.

Đây là update mình nghĩ mọi team triển khai agent nên học.

Software engineering đã tiến bộ vì bug trở thành test.

Agents cũng nên như vậy.

Nếu agent hôm nay:

chọn sai tool

thì incident đó ngày mai phải trở thành:

ToolSelectionAccuracy regression case.

Nếu agent:

thực hiện actions sai thứ tự

hãy tạo:

trajectory evaluator.

Agent không nên được QA bằng memory của con người.

Điểm thứ tư là Cloudflare.

Automatic Key Exchange là một ví dụ cực đẹp của:

discover reality
  trước khi
choose configuration

Thay vì hard-code:

X25519

hoặc:

always PQ

Cloudflare hỏi:

Origin này thực tế hỗ trợ gì?

rồi chọn strongest compatible algorithm.

Có thể áp dụng cùng principle cho:

model routing
database capabilities
browser support
feature negotiation

Cuối cùng là MLOps governance.

AI model cũng đang trở thành một artifact giống container image.

Một production-ready model cần:

version
metrics
lineage
artifact
runtime
approval
provenance

Nếu registry chỉ lưu tên model thì đó là storage.

Không phải governance.


📝 Kết luận

09/09 có 10 chủ đề đáng chú ý trong đúng cửa sổ 24 giờ, nên bản hôm nay không cần kéo tin cũ từ 24–72 giờ trước.

Ba việc đáng làm sau bản tin này:

  1. Nếu coding agents có shell/tool access, audit workspace instructions, MCP servers và hidden agent directories như một phần của security boundary.

  2. Đưa agent regression evaluations vào CI, đặc biệt với tool selection, parameters và trajectory.

  3. Với ML/AI production, yêu cầu model artifact đi kèm metrics + lineage + inference specification + approval state.

Thông điệp lớn hôm nay:

Khi AI bắt đầu hành động, trust không thể nằm trong model.

Trust phải được tạo bởi nhiều lớp độc lập:

identity
isolation
provenance
evaluation
policy
monitoring

Và mỗi production side effect nên có evidence đủ mạnh để giải thích vì sao hệ thống cho phép nó xảy ra.


🔗 Nguồn tham khảo

  1. Google Cloud — GTIG AI Threat Tracker: From Prompting to Autonomy

  2. Cloudflare — Automatic Key Exchange

  3. GitHub — Automatic Dependabot access to GitHub-hosted registries

  4. AWS — Automated agent evaluation with Amazon Bedrock AgentCore and GitHub Actions

  5. AWS — SageMaker Feature Store UpdateRecord

  6. AWS — Govern models with MLflow and SageMaker Model Registry, Part 1

  7. AWS — Govern models with MLflow and SageMaker Model Registry, Part 2

  8. AWS — Benchmarking small LLM inference on SageMaker AI

  9. AWS — How AWS unified its routing control plane

  10. AWS — Pathway’s brain-inspired architecture on SageMaker HyperPod