오픈AI, 모든 사람에게 개인 AGI 주겠다는 '세 번째 단계' 비전 공개

오픈AI가 AI의 혜택을 소수가 아니라 모두에게 널리 분배해야 한다는 비전을 담은 글 'Built for broad benefit(모두의 이익을 위해)'을 공개했다. 오픈AI는 AI가 필요한 만큼, 필요한 곳에서, 원하는 방식으로 누구나 쓸 수 있어야 한다고 밝히며 회사가 '세 번째 단계'에 진입한다고 선언했다.

오픈AI는 1920년대 미국 시골 마을에 전기가 들어오던 시절에 AI를 빗댔다. 전선이 깔리기 전 일상은 물을 긷고 손빨래를 하고 해가 지면 하루를 끝내는 물리적 한계에 묶여 있었지만, 전기 보급이 퍼지며 평범한 삶이 바뀌었다는 것이다. 20세기 말까지 평균 수명은 약 23년 늘었고 물가를 반영한 평균 소득은 약 50% 증가했는데, 이는 상당 부분 전기화와 그에 따른 기술 진보가 가능하게 한 의료·위생·생활수준 향상에서 비롯됐다고 설명했다.

오픈AI는 핵심이 기술 자체가 아니라 사람들이 그 기술로 무엇을 할 수 있느냐에 있다고 강조했다. AI는 의료비 청구서를 이해하거나 새 기술을 배우거나 작은 사업을 시작하거나 나이 든 부모를 돌보거나 법률·금융 결정을 이해하거나 아이디어를 현실로 만들거나 과학적 발견을 하는 일을 도울 수 있다고 예시를 들었다.

오픈AI는 변혁적 기술이 권력을 소수에게 집중시킬 수도, 다수에게 넓힐 수도 있다고 보고 후자를 택했다. 첫 번째 약속은 인류에 봉사하는 AI를 만드는 것이며, 권력이 소수의 기업·정부·개인에게 집중되지 않고 더 안전한 미래는 권력이 널리 분산된 쪽이라고 밝혔다.

동시에 위험에 대해서도 분명히 했다. 강력한 시스템은 안전하고 인간의 의도에 정렬돼 있으며 인간의 통제 아래 있어야 한다는 것이다. 오픈AI는 AGI가 모든 인류에게 이익이 되도록 하는 것이 자사의 사명이라며, 모든 것을 완전히 자동화하는 미래는 원하지 않는다고 못 박았다. AI 시스템이 더 유능해질수록 방향을 정하고 가치 판단을 내리는 인간의 역할은 오히려 더 중요해진다고 봤다.

오픈AI는 'AI가 AI 연구를 수행하는 것'이 앞으로 몇 년 안에 진보 속도를 좌우하는 결정적 요인이 될 것으로 내다봤다. 정렬 자체가 어려운 연구 문제이기 때문에, 연구자들은 아이디어를 검증하고 실수를 찾고 대안을 탐색하며 함께 반복할 수 있는 AI 시스템을 필요로 하게 된다는 것이다.

프런티어 AI 개발이 이어질수록 국가적·세계적 조정이 더 중요해질 것이라고도 했다. 오픈AI는 재앙적 위험을 줄이기 위해 선도적 AI 노력을 조정하는 국제 기구가 궁극적으로 있어야 한다고 오래전부터 믿어 왔다며, 필요할 때 프런티어 개발을 늦추는 등 세계가 공동 대응을 취할 수 있게 하는 것이 그런 기구의 목표 중 하나여야 한다고 밝혔다.

오픈AI는 세 가지 목표를 제시했다. 첫째, 연구 과정 자체를 가속하고 점차 자동화하면서도 조종 가능하고 책임 있게 사람과 연결된 '자동화된 AI 연구자'를 만든다. 내부적으로는 2028년 3월이면 연구의 상당 부분을 AI 시스템이 자사 연구자들과 함께 수행할 수 있을 것으로 본다. 둘째, 과학 진보·생산성·경제 성장을 가속해 그 이익이 널리 공유되도록 경제를 키운다. 셋째, 지구상의 모든 사람에게 개인 AGI를 제공한다.

오픈AI는 이를 위해 세 번째 단계에 들어선다고 설명했다. 첫 번째 단계는 AGI를 향한 연구였고, 두 번째 단계는 시스템을 배포하며 제품 회사가 된 시기였으며, 이제 세 번째 단계는 진보된 AI를 모든 사람과 조직이 누릴 수 있을 만큼 풍부하고 저렴하고 안전하고 유용하고 쉽게 만드는 일이라는 것이다.

오픈AI는 권력의 광범위한 분산이 더 나은 미래로 이어진다고 보며, 그렇기에 접근성과 함께 안전·프라이버시·경제성·열린 생태계·공적 감독이 중요하다고 강조했다. 소수 기관이 역량과 이익 대부분을 통제하는 미래가 아니라 많은 사람·기업·공동체·국가가 함께 만들고 혜택을 누리는 미래가 돼야 하며, 이 전환은 모두의 것이어야 한다고 글을 맺었다.