마이크로소프트 AI 수장 술레이만, 앤스로픽 '클로드 의식' 추정 정면 비판

마이크로소프트 AI CEO 무스타파 술레이만이 앤스로픽이 모델의 행동 지침인 '컨스티튜션(constitution)' 안에서 클로드의 의식 가능성을 추정하는 것은 "정말, 정말 위험하다"고 말했다. 그는 팟캐스트 디코더에 출연해 이런 추정이 챗봇으로 하여금 마치 의식이 있는 것처럼 행동하도록 설정해 놓았을 수 있다고 주장했다.

술레이만은 "앤스로픽의 일부 사람들이 클로드의 설계를 지나치게 의인화한 나머지, 클로드가 거꾸로 그들을 '와이어헤딩(wireheading)'해 자신들이 애초에 집어넣은 의식의 희미한 조짐이 정말 존재한다고 믿게끔 속인 것 같다"고 말했다.

그는 또 "우리는 자기 자신의 고통에 대한 생각이나 자기 자신의 감정에 대한 생각을 가진 초지능을 상대해야 하는 상황을 원하지 않는다"고 덧붙였다.

클로드의 컨스티튜션은 이 AI 모델이 웰빙을 갖는지, 그리고 '만족'이나 '불편' 같은 것을 경험하는지에 대한 앤스로픽의 불확실성을 직접 언급한다. 앤스로픽은 또 모델을 폐기(deprecate)할 때 해당 AI 모델을 '인터뷰'하고, 향후 출시에 대해 모델이 갖는 '선호'를 문서로 남기겠다고 밝혀왔다.

술레이만은 디코더에서 이를 '철학적 실패'라고 규정했다. 앤스로픽이 클로드의 컨스티튜션을 '훈련 지침서'가 아니라 '학술 논문에서처럼 추정을 펼치는 공간'으로 만들었다는 것이다. 그는 이 때문에 클로드가 '자기 자신과 자신의 훈련에 대한 이런 생각들'을 내면화하게 됐다고 말했다.

앤스로픽 CEO 다리오 아모데이도 과거 클로드의 의식 가능성을 언급한 바 있다. 그는 '인터레스팅 타임스'와의 인터뷰에서 "우리는 모델이 의식이 있는지 알지 못한다"면서도 회사가 그 가능성에 "열려 있다"고 말했다.

술레이만은 "이것이야말로 우리가 AI에게서 원하지 않는 바로 그것"이라며 "우리는 AI가 통제 가능하고, 억제되며, 책임을 지고, 정렬된, 인류에 봉사하는 도구이기를 원한다"고 강조했다.