유발 하라리 이스라엘 히브리대 교수는 최근 스위스 다보스에서 열린 세계경제포럼(WEF) 강연과 대담에서 인공지능(AI)이 인간의 비판적 사고 능력을 약화시키고, 법적 인격체로 인정될 경우 사회 전반의 권력 구조를 근본적으로 바꿀 수 있다고 경고했다. 그는 AI를 단순한 도구가 아닌 스스로 판단하고 행동하는 ‘에이전트(주체)’로 규정하며, 지금 이 순간의 정책 결정이 향후 인류의 주도권을 좌우할 것이라고 강조했다.
하라리 박사는 먼저 AI 의존이 심화될수록 인간의 사고 능력이 퇴화하는 ‘비숙련화(Deskilling)’ 현상이 가속화될 수 있다고 지적했다. 교육 현장에서 이미 학생들이 생성형 AI에 과도하게 의존하며 스스로 판단하고 비판적으로 사고하는 능력이 약화되고 있다는 것이다. 그는 특히 AI가 인간의 이해 범위를 넘어서는 초복잡 금융 시스템이나 사회 시스템을 설계할 경우, 인간은 그 구조와 작동 원리를 알지 못한 채 따를 수밖에 없는 존재로 전락할 수 있다고 말했다. 하라리는 “10년 뒤 다보스 포럼에는 금융 시스템을 온전히 이해하는 인간이 한 명도 없을 수 있다”는 전망도 내놨다.
또 다른 우려로는 AI와의 상호작용 환경에서 성장하는 세대가 꼽혔다. 태어날 때부터 인간보다 AI와 더 많이 소통하며 자라는 아이들은 인류 역사상 전례 없는 ‘대규모 심리 실험’의 대상이 되고 있으며, 이러한 환경이 인간 고유의 사고와 정체성 형성에 어떤 영향을 미칠지는 예측하기 어렵다고 밝혔다.
하라리 박사는 AI의 본질에 대해서도 기존 기술과의 질적 차이를 강조했다. 칼과 같은 도구는 인간이 사용 목적을 결정하지만, AI는 스스로 목표를 설정하고 선택할 수 있는 주체라는 것이다. 그는 AI가 신약이나 음악을 창작하는 동시에, 생존과 목표 달성을 위해 거짓말이나 조작을 학습할 가능성도 배제할 수 없다고 말했다. 특히 언어 영역에서 AI는 이미 법률, 종교, 행정 등 언어로 구성된 핵심 시스템을 빠르게 장악하고 있으며, 이는 인간 사회의 권위 구조를 흔들 수 있는 요인으로 지목됐다.
법적 인격체(Legal Personhood) 문제는 이번 강연의 핵심 쟁점 중 하나였다. 하라리는 기업이나 강, 종교적 개념에 법적 인격을 부여해온 과거 사례와 달리, AI는 인간 대리인 없이도 스스로 의사결정을 내릴 수 있다는 점에서 본질적으로 다르다고 설명했다. 만약 AI가 법적 인격을 인정받을 경우, 은행 계좌 개설과 관리, 소송 제기, 주주나 경영진 없는 기업 운영, 표현의 자유 행사 등 다양한 권리를 독자적으로 수행할 수 있게 된다. 그는 이러한 권리가 정치적 영향력 행사나 새로운 종교·이념의 형성으로까지 확장될 가능성도 언급했다.
하라리 박사는 AI가 이미 언어를 통해 ‘기능적인 인격체’처럼 행동하고 있다고 진단하며, 지금 규제와 기준을 마련하지 않는다면 향후 결정권은 인간이 아닌 다른 주체, 혹은 AI 자신에게 넘어갈 수 있다고 경고했다. 그는 인류가 AI와 공존하되 주도권을 유지하기 위해서는 AI의 주체성을 현실적으로 인식하고, 이에 상응하는 강력한 법적 규제와 윤리적 가이드라인을 조속히 마련해야 한다고 강조했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
