· ai
AI가 충분히 좋아져서 지출 한도가 필요 없을까요?
markdown “AI가 이걸 더 잘하게 되지는 않을까?” 짧은 답은 아니오. 왜 그런지 이해하는 것은 우리가 AI 안전에 대해 어떻게 생각해야 하는지에 대한 근본적인 것을 드러낸다.
-
- · ai
모든 AI 비디오는 해롭다 (2025)
번역할 텍스트를 제공해 주시면 한국어로 번역해 드리겠습니다.
- · ai
Llama Guard: LLM 기반 입력‑출력 안전장치 인간‑AI 대화
개요 Llama Guard를 만나보세요, AI와의 채팅을 모두에게 더 안전하고 명확하게 만들기 위해 구축된 간단한 도구입니다. 사람들의 질문과 AI의 답변을 살펴보고, 그리고 s...
-
-
- · ai
Nightshade: 이미지를 모델 학습에 부적합하게 만들기
번역할 텍스트를 제공해 주시겠어요?
- · ai
다음 30일 동안, 나는 AI 민주화를 하나의 사명으로 이야기합니다: AI는 특히 소기업 및 창업자를 위해 실용적이고 저렴하며 안전해야 합니다.
정리된 Markdown !Forem 로고https://media2.dev.to/dynamic/image/width=65,height=,fit=scale-down,gravity=auto,format=auto/https%3A%2F%2Fdev-to-upload...
- · ai
Adversarial Attacks와 Defences: 개관
개요 오늘날 많은 앱이 딥러닝을 활용해 이미지 분석부터 음성 인식까지 복잡한 작업을 빠르게 수행합니다. 그러나 아주 작고 거의 눈에 띄지 않는 변화가...
- · ai
명령어는 제어가 아니다
‘Instructions Are Not Control’ 표지 이미지 https://media2.dev.to/dynamic/image/width=1000,height=420,fit=cover,gravity=auto,format=auto/https%3A%2F%2Fdev-to-u...
- · ai
루프가 모든 것을 바꾼다: Embodied AI가 현재 Alignment 접근 방식을 깨는 이유
Stateless vs. Stateful AI ChatGPT와 유사한 챗 모델은 stateless합니다: 각 API 호출은 독립적이며 모델은 다음을 가지고 있지 않습니다: - Persistent memory – 모든 것을 잊어버립니다.
- · ai
AI에게 안전해 달라고 애원하지 마세요: 제약 엔지니어링의 필요성
나는 안전 전략으로서의 “Prompt Engineering”에 지쳤다. 만약 당신이 자율 에이전트—실제로 데이터베이스를 query하고 파일을 move하는 등 작업을 수행할 수 있는 AI—를 구축하고 있다면, …
- · ai
왜 “스마트” AI는 여전히 어리석은 결정을 내리는가
제한 없는 지능은 단지 속도일 뿐이다. AI 시스템이 나쁜 결정을 내리면 우리는 보통 모델을 비난한다. 하지만 대부분의 경우, 모델은 정확히…