LLM API를 사용해 개발하는 사람들을 위한 빠른 질문 (3개 질문, 2분)

Source: Dev.to

설문 조사

저는 AI Oversight Patterns라는 오픈소스 레퍼런스를 만들고 있습니다. 이 레퍼런스는 AI 에이전트가 인간의 통제 하에 있도록 하는 소프트웨어 패턴(예: 되돌릴 수 없는 행동 전에 승인 게이트, 행동 허용 목록, 감사 로그 등)을 모아놓은 카탈로그입니다.

더 진행하기 전에, 실제로 필요한 부분을 해결하고 있는지 확인하고 싶습니다. 아래 세 가지 간단한 질문에 답변해 주세요.

1. 현재 LLM API(OpenAI, Anthropic, Gemini 등)를 사용하는 애플리케이션을 구축하거나 유지 관리하고 있습니까?

• 예, 적극적으로 구축 중
• 예, 이미 운영 중
• 구축했었지만 현재는 중단됨
• 아니요, 아직 계획 중

2. AI 에이전트가 할 수 있는 일을 인간이 통제하도록 특별히 구현한 메커니즘이 있습니까?

(예: 민감한 행동 전에 승인 단계, 허용된 행동 목록, 결정 및 근거에 대한 로그)

• 예, 이런 것이 있습니다
• 아니요, 별로 생각해 본 적이 없습니다
• 아니요, 생각은 해봤지만 과도하다고 느꼈습니다
• 모델의 학습 자체가 제한을 걸어줄 것이라 믿습니다

3. 20개의 문서화된 패턴이 각각 코드 예시와 실패 모드 설명과 함께 공개 GitHub 레포가 있다면 사용하시겠습니까?

• 예, 참고 자료로 사용하겠습니다
• 아마도, 품질에 따라 다릅니다
• 아마 사용하지 않을 것 같습니다, 직접 접근 방식을 만들겠습니다
• 제 사용 사례에는 감독 메커니즘이 필요하지 않다고 생각합니다

댓글에 답변을 남겨 주세요. 추가적인 상황 설명도 환영합니다—특히 “생각은 해봤지만 과도하다고 느꼈다”는 답변에 대해 궁금합니다.

레포 (작업 진행 중):