Latest in AI/ML Engineering & LLMOps

dev.to
1,031 words

AI 에이전트에게 API 키를 노출하지 않고 안전하게 사용하는 방법

핵심 요약: AI 에이전트가 API 키를 직접 보지 않고도 사용하게 만들려면, 에이전트의 컨텍스트에는 키의 이름만 전달하고 실제 값은 모델 바깥에서 확인(resolve)하도록 구성해야 합니다. 대표적인 방법은 세 가지입니다. 에이전트가 참조만 하고 절대 출력하지 않는 환경 변수, 시크릿 관리자(Secret…

AI/ML Engineering & LLMOps

Training/inference, vector search, RAG, evaluation, safety, and production ML/LLM stacks.

  • 5 Subtopics
  • 14 Tracked terms
  • Last 30 days Feed window

Inside AI/ML Engineering & LLMOps

Frameworks & Training PyTorch, TensorFlow, JAX, datasets, and accelerator workflows.
Inference & Serving Serving runtimes, Triton, vLLM, ONNX Runtime, and scalable endpoints.
RAG & Vector Databases Embeddings, retrieval strategies, chunking, and hybrid search patterns.
Prompting, Guardrails & Eval Prompt tools, safety filters, red-teaming, evals, and regression benchmarks.
MLOps & Governance Tracking, model registry, feature stores, lineage, and compliance.

What this topic collects on

An article joins this feed when it matches these terms. Each one is also a search of its own.