;)
;)
;)
이미지 확대보기앤스로픽 최고경영자를 비롯한 AI 업계 수장들이 AI의 위험성을 고발하는 이유는 통제할 수 없는 수준까지 치달을 수 있는 속도에 대한 우려에서다.
AI가 인간보다 뛰어난 능력을 발휘하는 이른바 초지능의 출현에 대한 경고다.
머지않아 AI 시스템이 인간보다 훨씬 더 똑똑해질 것이란 경고인 셈이다.
인류가 만든 AI 같은 새 기술을 통제하지 못하면 전멸할 수도 있다는 '넥서스'의 저자 유발 하라리의 경고와도 일맥상통한다.
인류는 정보를 축적하고 힘을 키우는 데에는 탁월하지만 지혜를 얻는 데는 성공하지 못했다는 지적이기도 하다.
잘 살기 위해 축적한 엄청난 정보를 잘못 사용하면 인류 사회를 집어삼키는 광기로 이어질 수도 있다는 점을 지적한 것이다.
한마디로 많은 사람이 협력할 때 나오는 힘을 남용하는 것을 경계하라는 의미다.
AI는 인터넷이나 스마트폰 혁명과 비교할 수 없는 기술 전환이다. 새로운 산업을 만들고 생산과 소비, 노동과 자본의 구조 자체를 바꿀 수도 있기 때문이다.
누구도 가보지 않은 길이어서 불안하기도 하다. 주식시장에서 AI 관련 주가가 요동치는 것도 이런 이유에서다.
새로운 기술이 등장하면 처음엔 열광하며 주가를 끌어올릴 수 있지만 의심하기 시작하면 정반대 상황으로 치달을 수밖에 없는 구조다. 최근 주식시장의 변동성도 비슷한 흐름이다.
인류가 역사 발전 과정에서 자기 수정을 통해 개선을 이끌었듯이 시장의 원리도 비슷하다.
인간이 협력 네트워크를 구축함으로써 얻은 힘을 지혜롭게 사용하면 좋은데 그렇게 하기가 쉽지 않다.
AI 미래도 결국 네트워크의 힘을 어떻게 사용할지에 대한 결정에 달려 있다. AI 업계에서 AI 개발의 속도 조절에 대한 필요성을 강조하는 것도 이 때문이다.
특히 슈퍼컴퓨터처럼 행동하는 AI가 인터넷을 장악하는 시나리오를 경계해야 할 때다.
