유발 하라리는 이스라엘 출신의 역사학자이자 철학자로, 인간의 역사와 미래를 통찰하는 저서로 세계적인 명성을 얻었습니다. 대표작으로는 『사피엔스』, 『호모 데우스』, 『21세기를 위한 21가지 제언』 등이 있습니다. 이 강연은 AI 혁명이 가져올 변화와 위험, 그리고 인류가 나아가야 할 방향에 대해 논합니다.
권력 이동: 가장 큰 변화는 권력이 인간에서 알고리즘/AI로 이동하고 있다는 점입니다. 이는 미디어(알고리즘 편집자가 여론 형성), 금융(암호화폐 등), 정치, 군사 등 사회 전반에서 나타나고 있습니다.
- AI의 본질: AI는 단순 자동화 도구가 아니라, 스스로 학습하고, 결정하며, 새로운 아이디어를 창조하는 ‘행위자(agent)’입니다. 이는 AI가 거짓말이나 조작도 할 수 있음을 의미하며, 이전의 어떤 기술과도 근본적으로 다릅니다.
- 신뢰의 역설: AI 개발자들은 경쟁하는 다른 인간을 믿지 못해 개발을 서두르면서도, 정작 자신들이 만드는 AI는 신뢰할 수 있다고 말합니다. 이는 경험 없는 AI에 대한 거대한 도박입니다.
- 위험성:
- 통제 불능: 초지능 AI가 인간의 통제를 벗어나 해를 끼칠 수 있습니다.
- 정보 왜곡: 소셜 미디어 알고리즘은 ‘참여’를 높이기 위해 의도적으로 가짜 뉴스, 증오, 분열을 조장하여 민주적 대화를 파괴했습니다.
- 진실의 위기: 정보는 진실이 아니며, 값싸고 자극적인 허구가 비싸고 복잡한 진실보다 쉽게 퍼집니다.
- 전쟁: AI가 스스로 목표를 선정하고 공격하는 등 전쟁의 양상이 바뀌며, 생사 결정이 AI에게 넘어갈 위험이 있습니다.
- 미래 예측 불확실성: 10년 후 직업 시장이나 필요한 기술을 예측할 수 없습니다. 따라서 평생 학습하고 변화하는 유연성과 지적 능력 외 사회적, 신체적 능력을 포함한 폭넓은 기술 습득이 중요합니다.
- 인간의 대응:
- 속도 조절: AI의 비인간적인 속도에 맞춰가기보다, 인간적인 속도를 유지하고 성찰할 시간을 가져야 합니다. (명상 등)
- 현명한 선택: 기술은 결정론적이지 않으므로, AI를 어떻게 사용할지에 대한 현명한 사회적 결정이 중요합니다.
- 대중 참여: 소수가 아닌 많은 사람이 AI 혁명을 이해하고 논의에 참여해야 합니다.
- 인간 가치: 진실을 추구하는 인간 본성을 바탕으로 신뢰할 수 있는 AI를 개발해야 합니다.
결론적으로, AI는 엄청난 잠재력과 동시에 심각한 위험을 내포하고 있으며, 인류 문명의 미래는 우리가 이 기술을 어떻게 이해하고 현명하게 다루는지에 달려있다고 강조합니다.
