3주 전 · ai

대부분의 기술 리더들이 AI 전략에 대해 잘못 이해하는 점

AI 전략은 이사회 회의실의 주제가 되었다. 로드맵이 다시 그려지고 있다. 예산이 재배정되고 있다. 팀에게 “AI를 어디서든 사용하라”는 지시가 내려지고 있다. 그러나 그럼에도 불구하고…

3주 전 · ai

왜 Prompt-Level Controls가 AI Risk Management의 새로운 최전선인가

소개: 생성 AI 위험은 더 이상 모델과 데이터에만 국한되지 않는다. 이제 실제 취약점은 프롬프트에 있다. Technology Radius가 강조한 바와 같이, …

0개월 전 · ai

왜 AI safety는 구조적으로 강제되어야 하고, 훈련으로는 안 되는가?

대부분의 현재 AI safety 작업은 unsafe system을 가정하고 그 안에 더 나은 행동을 train하려고 합니다. - 더 많은 data를 추가한다. - 더 많은 constraints를 추가한다. - 더 많은 features를 추가한다.

1개월 전 · ai

안전은 기본, 비용 절감은 덤: 별도 가드레일이 필요한 이유

들어가며: 가드레일이 뭔가요? AI를 안전하게 사용하기 위한 여러 장치를 통틀어 보통 ‘가드레일guardrails’이라고 부릅니다. 자동차 주행 중 도로를 벗어나거나 옆 차선을 …​

1개월 전 · it

연방의 주 차원 AI 규제에 대한 모라토리엄에 반대

올해 5월을 떠올려 보세요: Congress는 거대한 budget bill에 대한 논쟁 한가운데 있었습니다. 수많은 중대한 조항들 중에서, Senator Ted Cruz…

1개월 전 · ai

$100 Billion 도박

샌프란시스코의 미션 베이를 내려다보는 유리벽 회의실에서, 브렛 테일러는 아마도 가장 중대한 기업 …의 중심에 앉아 있다.

1개월 전 · ai

AI 시스템을 보안 강화하기: 실제 환경에서 산업 표준 적용

소개 지난 기사에서는 AI를 비즈니스‑크리티컬 시스템에 통합함으로써 기업이 AI security와 관련된 새로운 위험에 노출되는 방식을 논의했습니다.

1개월 전 · ai

Trinity AGA Architecture: 기술 심층 분석 - 거버넌스 우선 AI 시스템

소개 첫 번째 기사에서 나는 Trinity AGA Architecture를 반사적 AI를 위한 헌법적 프레임워크로 소개했습니다. 이 후속 글은 기술적인…

1개월 전 · ai

🧠아마도 나는 그냥 이해를 못 하는 걸까!

낙관적인 방 안에서 회의적인 입장이 되는 불편한 느낌. 나는 AI와 오랫동안 작업해 왔으며—깊이 관여하고, 제품을 shipping하고, 모델을 wiring models하는 중이다.

1개월 전 · ai

왜 관측 가능한 AI가 기업이 신뢰할 수 있는 LLM을 위해 필요한 누락된 SRE 레이어인가

AI 시스템이 프로덕션에 들어가면서, reliability와 governance는 희망적인 생각에 의존할 수 없습니다. 여기서는 observability가 large language models(LLMs)를 어떻게 전환하는지 설명합니다. https://ve...

1개월 전 · ai

[Paper] AI/ML 모델 카드 in Edge AI 사이버인프라: Agentic AI를 향하여

AI/ML model cards는 의도된 사용에 대한 AI/ML 모델의 벤치마크된 평가를 포함할 수 있지만, 모델 훈련 중에 한 번만 수행되는 평가는 ...