샘 올트먼, "ChatGPT가 사용자의 전체 인생 기억하는 것이 목표"

오픈AI CEO 샘 올트먼이 세쿼이아 캐피탈(Sequoia Capital) AI 이벤트에서 ChatGPT의 개인화에 대한 비전을 공개했다. 올트먼은 궁극적으로 모델이 "사용자 인생의 모든 것, 즉 책, 이메일, 대화 등을 기록하고 기억하는 것"을 구상하고 있다고 설명했다.

올트먼은 젊은 세대가 디지털 플랫폼의 광범위한 사용을 통해 이미 이러한 수준의 디지털 기록에 근접하고 있다고 언급하며, 포괄적인 AI 메모리가 급진적 변화가 아닌 기술 상호작용의 자연스러운 진화를 나타낸다고 주장했다.

이 비전은 오픈AI가 수년간의 상호작용에서 축적된 개인 맥락을 이해하는 포괄적 디지털 기록 역할을 할 수 있는 광범위한 메모리 기능을 가진 AI 어시스턴트를 만들려는 전략적 방향을 보여준다. 그러나 사용자의 전체 생애 기록을 기억하는 시스템은 전례 없는 수준의 개인 데이터 집중을 만들어내어, 침해 대상이 되기 쉽고 데이터 소유권과 동의, 감시 및 오용 가능성에 대한 의문을 제기한다.

비평가들은 이처럼 포괄적인 개인 데이터를 축적하는 AI 시스템에 대해 사용자가 진정한 사전 동의를 제공할 수 있는지, 그리고 깊은 개인화의 이점이 개인의 전체 인생에 대한 상세한 디지털 프로필을 생성하는 위험보다 큰지에 의문을 제기하고 있다.