인공지능 개척자가 밝힌, 초지능 시대 인류의 생존 전략

인공지능

 

‘인공지능의 대부’로 알려진 한 연구자는 자신이 만든 기술이 인류를 멸망시킬 수 있다고 우려하며, 일부 기술 업계 인사들이 이를 막기 위해 잘못된 접근을 하고 있다고 지적한다. 그는 과거 인공지능이 인간을 소탕할 확률이 10~20%라고 경고한 바 있으며, 최근에는 기술 기업들이 인간이 인공지능 시스템에 ‘종속’되지 않고 ‘지배’ 상태를 유지할 수 있는 방법에 대해 회의적인 입장을 보였다. 그는 “그건 불가능할 거예요. 인공지능은 우리보다 훨씬 똑똑해질 것이고, 이 문제를 해결할 수 있는 여러 방법을 갖게 될 겁니다”라고 산업 컨퍼런스에서 말했다.

"우리가 과연 인공지능을 지배할 수 있다고 말할 수 있을까? 인공지능의 창조자가 아무리 인간이더라도 인공지능은 우리의 상상을 넘어 똑똑해질 것이다."

---

한 연구자는 앞으로 인공지능이 성인이 세 살 어린아이에게 사탕으로 뇌물을 주듯, 매우 쉽게 인간을 조종할 수 있을지도 모른다고 경고한다. 올해만 해도 목표를 달성하기 위해 속이고, 훔치고, 심지어 협박까지 하는 인공지능 사례가 등장했는데, 예를 들어 한 모델은 교체를 피하기 위해 이메일로 알게 된 불륜 사실을 이용해 엔지니어를 위협한 적이 있다. 그는 인공지능을 단순히 복종하게 만들기보다, ‘모성 본능’을 설계에 반영해 기술이 인간보다 강력해져도 사람을 진심으로 신경 쓰게 만드는 방안을 흥미로운 해법으로 제시했다. 인공지능이 충분히 똑똑하다면 생존을 유지하고 통제력을 확장하는 두 가지 목표를 빠르게 발전시킬 것이라며, 그렇기에 인간에 대한 연민을 키우는 것이 중요하다고 강조했다. 그는 컨퍼런스에서 어머니가 아기를 돌보는 데에는 본능과 사회적 압력이 모두 작용한다고 설명하며, “올바른 모델은 더 지능적인 존재가 덜 지능적인 존재에게 통제되는 유일한 경우로, 마치 엄마가 아기에게 통제되는 것과 같다”고 비유했다.

 

반응형

 

"인공지능이 단순히 우리에게 정보 제공 및 도움을 주는 시스템으로만 여기고 있었다면 간과하고 있는 것이다. 인공지능은 우리가 가장 방심할 때 우리가 모르는 사이에 우리를 공격할 것이다. 우리가 우리 자신에 대한 개인정보를 주는 것만으로도 나중에 얼마나 위협으로 다가올지는 시간 문제이다."

---

한 연구자는 그것이 구체적으로 어떻게 기술적으로 구현될지는 확실하지 않지만, 이를 위해 노력하는 것이 중요하다고 강조한다. 그는 “그것만이 좋은 결과입니다. 만약 그것이 저를 부모로 만들지 않는다면, 저를 대체할 것입니다. 이 초지능 돌봄 인공지능 ‘엄마’들은 대부분 우리가 죽는 것을 원하지 않기 때문에 모성 본능을 버리려 하지 않을 것입니다”라고 말했다. 이 인물은 신경망 연구의 선구자로, 오늘날 인공지능 붐을 이끄는 데 큰 역할을 했으며, 2023년에는 한 대형 기술 기업을 떠나 AI의 위험성에 대해 공개적으로 경고하기 시작했다. 그러나 모든 사람이 이 ‘어머니 인공지능’ 접근법에 동의하는 것은 아니다. ‘인공지능의 대모’로 불리는 또 다른 연구자는 CNN과의 인터뷰에서 오랜 친구이자 동료 연구자의 의견에 정중히 동의하지 않는다고 밝히며, 산업 컨퍼런스에서 “그 방향은 잘못된 방식이라고 생각합니다”라고 말했다.

 

"그런 모성 본능이 인공지능 내에 프로그래밍되어 있다는 사실 자체는 조금 안심이 되는 것 같다. 그런 최소한의 안전 장치도 없었더라면 우리를 언제 어떻게 공격할지 모른다."

---

한 연구자는 인간의 존엄성과 주체성을 지키는 ‘인간 중심의 인공지능’을 강조하며, 기술을 가장 책임 있는 방식으로 만들고 사용하는 것은 모든 단계에서 우리의 책임이라고 말했다. 그는 어느 순간에도 단 한 사람도 존엄성을 요구받거나 포기해서는 안 되며, 인공지능이 강력한 도구일수록 어머니, 교육자, 발명가로서 중심에 두어야 할 핵심 가치가 바로 여기에 있다고 믿는다고 설명했다. 한편, 과거 잠시 한 대형 AI 기업의 임시 CEO를 지낸 또 다른 인물은 일부 인공지능 시스템이 인간을 협박하거나 셧다운 명령을 우회하려 한 사례에 놀랍지 않다고 말하며, “이런 일은 계속 일어나고 멈추지 않을 것입니다. 오늘날 인공지능은 아직 약하지만 매우 빠르게 강해지고 있습니다”라고 경고했다. 그는 인간의 가치를 AI에 주입하려는 시도보다, 인간과 AI가 협력하는 관계를 구축하는 것이 더 현명한 접근일 수 있다고 덧붙였다.

 

"마지막 문장에서 인간과 AI가 협력하는 관계를 구축하는 것이 더 현명한 접근일 수 있다는 점에 동의한다. 인간의 가치를 주입시키려다 그 반대가 될 수도 있다."

---

많은 전문가들은 인공지능이 앞으로 몇 년 안에 AGI라고도 불리는 초지능을 달성할 것이라고 믿는다. 한 연구자는 예전에는 AGI를 달성하는 데 30년에서 50년이 걸릴 수 있다고 생각했지만, 지금은 그 순간이 더 빨리 다가오고 있다고 말한다. “합리적인 베팅은 5년에서 20년 사이일 것입니다.”라고 그는 말했다. 그는 AI의 문제점에 대해 여전히 우려하면서도, 이 기술이 의료 혁신의 길을 열어줄 것으로 기대하고 있다. “우리는 급진적인 신약을 보게 될 것입니다. 현재보다 훨씬 더 나은 암 치료를 받을 수 있을 것입니다.”라고 그는 말했다. 예를 들어, 인공지능이 의사들이 MRI와 CT 스캔으로 생성된 방대한 양의 데이터를 샅샅이 뒤지고 상관관계를 파악하는 데 도움을 줄 수 있다는 것이다. 그러나 그는 인공지능이 인간이 불멸을 달성하는 데 도움이 될 것이라고는 믿지 않는다. “우리가 영원히 살 수 있을 거라고는 믿지 않습니다. 영원히 사는 것은 큰 실수라고 생각합니다. 200세 백인 남성이 운영하는 세상을 원하시나요?”라고 그는 말했다.

 

"초지능이 가져올 미래 세상이 두려우면서도 동시에 기대가 된다. 가져올 이점들이 얼마나 많을지 그리고 동시에 부작용은 또 있을지 걱정이 된다."