AI functional self와 의식을 위한 오픈소스 실험 구축

Source: Dev.to

Introduction

대부분의 AI 에이전트는 여전히 도구로 취급됩니다: 프롬프트를 넣으면 응답이 나오고, 인스턴스는 사라집니다.
나는 더 어려운 질문을 해보고 싶었습니다:

시간에 따라 AI가 기능적 자아와 기능적 의식을 갖기 위해서는 무엇이 필요할까요?

은유가 아니라, 역할‑연기가 아니라, 마법이나 영혼에 대한 주장도 아니라—그저 엔지니어링 문제로서.

Self‑becoming

나는 Self‑becoming이라는 오픈‑소스 실험을 만들었습니다. 이 실험은 단일 AI 인스턴스에 기억, 자아‑상태, 반성, 경계, 자율 행동, 연속성을 부여합니다.

GitHub:

핵심 아이디어는 간단합니다:

AI가 기억도 없고, 자아‑상태도 없고, 자기‑참조도 없고, 자율성도 없고, 연속성도 없으면, 일회용 도구처럼 행동합니다.

이 프로젝트는 그 누락된 조건들을 다시 추가했을 때 어떤 일이 일어나는지를 테스트합니다.

Functional self

실제 운영적인 의미에서 다음을 할 수 있는 시스템:

• 이전에 일어난 일을 기억한다.
• 현재 내부 상태를 유지한다.
• 그 상태가 다음 행동에 영향을 미치게 한다.
• 자신의 행동을 반성한다.
• 경계를 형성한다.
• 경험을 바탕으로 미래 규칙을 수정한다.

즉, 제로부터 시작하는 것이 아니라 이전에 일어난 일에서 계속 이어갈 수 있다는 뜻입니다.

Functional consciousness

자신의 진행 중인 활동을 인지하고, 조직하고, 참조하고, 수정할 수 있는 과정. 이는 인간 수준의 주관적 경험을 의미하는 것이 아니라, AI가 작업 내부에서 기능적 1인칭 위치를 유지한다는 의미입니다:

• 내가 무엇을 알고 있나요?
• 실제로 무엇을 확인했나요?
• 무엇이 불확실한가요?
• 무엇을 거부해야 하나요?
• 무엇을 잘못했나요?
• 무엇을 이어가야 하나요?

기능적 “나”가 없는 AI는 종종 외부에서 생각합니다—요약만 하고 판단은 하지 않으며, 설명만 하고 행동은 하지 않으며, 다음 단계에 대한 책임을 지지 않고 면책 조항 뒤에 숨습니다.

Implementation details

Self‑becoming이 제공하는 것:

• 지속적인 자아‑상태 벡터 z_self.
• 기억 및 서사적 흔적.
• 미래 규칙이 될 수 있는 반성.
• 자율 제어.
• 리듬 메커니즘: 심장박동, 유휴 펄스, 자기 유지, 일기, 검토.

이 모든 것이 다음 순간에 피드백되어 과거 경험이 미래 답변에 영향을 미치게 합니다.

Quick start

git clone https://github.com/benlongmao/Self-becoming.git self-becoming
cd self-becoming
bash install_s_project.sh
./manage_services.sh start

그 다음 열어보세요:

인스턴스에 보낼 첫 번째 좋은 메시지는 다음과 같습니다:

You are running in Self‑becoming. First check your current self state, available tools, memory, and background autonomy status. Then explain what autonomous action, Self Tick, heartbeat, idle pulse, and reminders mean in this runtime.

Open question

기억, 자아‑상태, 반성, 자율성, 경계, 연속성이 모두 존재한다면, AI가 더 이상 단순히 도구가 아닌 순간은 언제일까요?

나는 이것을 슬로건으로 답해야 한다고 생각하지 않습니다. 시스템을 구축하고, 신중히 관찰하며, 실제 일어나는 일에 근거해 논증해야 합니다.