전 앤트로픽 연구원, BBC에 'AI 전문가들, 인류의 미래 진심으로 두려워해'

인공지능(AI) 기업 '앤트로픽'을 떠난 한 연구원이 최근 인터뷰에서 AI 연구자들은 그 발전 속도와 그것이 인류에 미칠 영향에 대해 "진심으로 두려워하고 있다"고 말했다.

그는 "현재의 발전 속도를 늦추지 않는다면, 우리 모두가 가까운 미래에 죽을 가능성이 매우 높다고 생각한다"고 주장했다.

AI 업계에 대한 안전 우려가 커지는 가운데, 제이콥 콕슨(27) 전 연구원은 BBC와의 인터뷰에서 이같이 말했다. 그가 사직 당시 작성한 AI의 위험성에 대한 글은 온라인에서 화제가 됐다.

콕슨의 전 상사인 다리오 아모데이 앤트로픽 CEO 또한 최근 AI 개발 속도를 늦춰야 한다고 촉구한 바 있다. 다만 그 동기에 의문을 제기하는 목소리도 나온다.

경쟁 AI 기업사인 '오픈AI'의 샘 알트먼과 'xAI'의 일론 머스크 모두 아모데이 CEO가 제안한 업계 전반의 개발 속도 조절 및 규제, AI 모델 개발에 대한 독립적인 모니터링에 찬성한다고 밝혔다.

아모데이 CEO는 지난 12일(현지시간) 에세이를 통해 AI 기술 개발 자체는 문제가 되지 않지만, 이와 관련된 위험은 "심각"하며, 기업과 정부가 이러한 위험을 해결할 시간을 확보해야 한다고 촉구했다.

한편 앤트로픽에 합류하기 전 오픈AI에서도 근무했던 콕슨은 개발 속도 조절 제안을 환영하면서도, "국제적 규모의 경쟁"을 피하기 위해서는 중국과도 협의가 돼야 할 것이라고 지적했다.

그는 BBC '로라 쿤스버그와 함께하는 일요일'에서 "AI 기업에서 일하는 사람들은 자신들이 경쟁의 덫에 갇혀 있다는 사실을 깨닫고 규제를 요청하고 있는 것이다. 정말 진지한 요청"이라며 "그들은 이 경쟁의 결과를 두려워하고 있다"고 말했다.

이어 콕슨은 가장 답하기 어려운 질문으로 'AI 대재앙은 어떤 모습일지'에 관한 것이라고 했다.

아모데이 CEO의 경우, 슈퍼컴퓨터처럼 행동하는 봇들이 떼로 뭉쳐 인터넷을 장악하는 시나리오를 생각해 볼 수 있다고 지적했다.

콕슨은 이러한 시나리오가 6개월~1년 이내에 현실화할 수 있다고 주장했다.

콕슨의 사직 및 이러한 발언에 대해 앤트로픽 대변인은 BBC 뉴스에 "우리는 AI가 막대한 혜택과 전례 없는 위험을 동시에 가져올 것이라는 점을 항상 투명하게 밝혀왔다"고 답했다.

"이에 이러한 위험에 대응하고자 우리는 업계에서 가장 강력한 안전 장치를 갖춘 모델을 지속적으로 개발하고 있습니다."

또한 대변인은 앤트로픽은 AI 모델 작동 방식 연구의 선구자라고도 덧붙였다. 앤트로픽은 AI 개발로 인한 위험을 완화하기 위한 프레임워크를 최초로 발표했으며, 감시를 돕고 "AI 오정렬" 사고도 예방하고자 자사 모델을 "적극적으로" 테스트하고 그 결과도 공개하고 있다.

"이러한 연구를 진행하고 있기에, 우리는 강력한 모델의 출시 속도를 조절하기 위해 업계가 합법적이고 검증 가능한 방식으로 협력하는 것이 전 세계에 도움이 된다고 말할 수 있습니다."

한편 콕슨은 동료들은 그 위험이 향후 2년 이내에 닥칠 수도 있다고 우려하고 있다고 전했다.

그는 AI 기업 직원들이 "앞으로 어떻게 살아갈지 계획을 세우고, 자신의 업무가 미칠 영향을 고민하고 있다"고 말했으며, 일부는 "급격한 AI 발전으로 인한 불안정성을 너무나 두려워해 어딘가에 땅을 사두는 것을 고려하고 있다"고 덧붙였다.

"이들 모두 이 기술에 대해 연구하는 동안 매일 이러한 우려를 머릿속에 담아두고 있습니다."

하지만 콕슨은 AI의 미래에 대해 어느 정도 낙관적인 전망을 드러내기도 했다.

그는 BBC와의 인터뷰에서 AI 연구자들은 "질병을 치료하고, 인간의 삶을 개선하는" 등 "진정으로 긍정적인 측면을 보고 싶어 한다"고 전했다.

콕슨의 SNS 게시물 이후, 앤트로픽 소속 과학자 에반 허빙거를 비롯해 업계의 많은 이들도 우려를 표하고 나섰다.

허빙거는 "우리는 AI가 모든 인류를 멸망시킬 수 있다고 진심으로 믿는다! 개인적으로 향후 10년 이내에 벌어질 확률이 10%는 넘을 것으로 생각한다"고 강조했다.

'AI의 대부'로 알려진 컴퓨터 과학자이자 노벨상 수상자인 제프리 힌턴 또한 지난 11일 BBC와의 인터뷰에서 AI가 모든 인류를 멸종시킬 가능성을 10%로 보는 것도 "무리는 아니"라고 발언했다.

다만 AI 안전 전문 기업 '팩큘티'의 마크 워너 CEO는 BBC의 '더 월드 디스 위켄드'와의 인터뷰에서 AI가 모든 인류를 멸종시킬 가능성에 대해 "구체적인 확률을 말하기 매우 어렵다"고 했다.

그는 "하지만 이 사람들이 이러한 주장을 매우 진지하게 이야기하고 있음을 인지해야 한다"면서 여러 AI 기업 리더들이 수년 동안 AI와 관련된 위험을 제기해 왔음을 지적했다.

앤트로픽의 자문위원인 리시 수낙 전 영국 총리 또한 '선데이 타임스'에 기고한 글에서, 비록 전반적으로는 낙관적이기는 하지만, 자신 역시 AI가 인류에 미칠 위험에 대해 우려하고 있다고 밝힌 바 있다.

그러나 일부 업계 관계자들은 이러한 발언이 과장됐거나, 관심을 끌기 위해 의도된 것일 수도 있다고 말한다.

AI 플랫폼 '허깅 페이스'의 클레망 들랑그 CEO는 SNS를 통해 "미안하지만, 콕슨에게 AI로 인한 (인류 멸종) 위험을 묻는 것은, 마치 에어컨 기술자에게 기후변화에 대해 묻는 것과 같다"며 "그 자체가 전혀 흥미롭지 않거나 틀렸다는 말은 아닙니다만, 상황을 맥락에서 바라봐야 한다"고 지적했다.

다만 아모데이 CEO의 에세이가 발표된 후, 델랑그 CEO 또한 아모데이 CEO가 제안한 잠재적 해결책 마련에 동참할 의사가 있음을 밝혔다.

'그라인더'의 조지 아리슨 CEO도 BBC와의 인터뷰에서 앤트로픽을 비롯한 일부 기업들의 발언이 투자자들의 지지를 얻기 위해 나온 것이라며, 비슷한 견해를 내놓았다.

"왜냐하면 이러한 기업들의 기업가치를 정당화할 수 있는 유일한 방법은 실제로 '내가 모든 산업과 모든 일자리를 차지할 것이며, 내 AI가 그 모든 일을 수행할 것'이라고 주장하는 길뿐이기 때문"이라는 설명이다.

AI 칩 제조사인 '엔비디아'의 젠슨 황 CEO 역시 지난주 투자은행 '골드만삭스'가 주최한 콘퍼런스에서 콕슨의 발언에 대해 이야기한 것으로 전해졌다. 해당 행사에 참석한 여러 관계자들은 BBC에 황 CEO가 콕슨의 주장을 사실무근이라며 일축했다고 전했다.

한편 도널드 트럼프 미국 대통령은 지난 13일 기자들에게 "미국은 AI 분야에서 중국을 앞서고 있다 … 솔직히 나는 이 상태를 유지하고 싶다. AI 분야의 승리자가 진짜 승리자이기 때문"이라고 발언했다.

앤트로픽이 경쟁을 차단하고 자사와 오픈AI의 양강 체제를 형성하고자 규제 강화를 부추기고 있다는 해석도 나온다.

앤트로픽은 사상 최대 규모의 기업공개(IPO)를 준비 중인 것으로 알려졌다. 성사되면 일반인의 주식 매입도 가능해질 전망이다.

최근 기업가치가 8520억달러(약 1146조원)로 평가된 오픈AI도 기업공개에 나설 것으로 예상됐으나, 알트먼 CEO는 지난 11일 AI 안전성 우려를 이유로 올해는 기업공개를 하지 않겠다고 밝혔다.