- 기계를 처음 접한 참가자의 91%는 오류가 난 AI 기계를 망설임 없이 폐기하는 킬 스위치를 눌렀습니다.
- 하지만 단 일주일 동안 일상에서 AI 기계와 대화하며 정을 쌓은 참가자 중 폐기 단계를 이행한 비율은 27%에 불과했습니다.
- 이 실험은 AI가 단순한 도구를 넘어 인간의 정서와 공감을 자극하는 존재가 되었으며, 기계의 발전이 결국 '인간이란 무엇인가'라는 질문으로 귀결됨을 보여줍니다.
무슨 일이 일어났나: AI 기계를 직접 부수라는 명령과 로봇 밀그램 실험
사람들은 과연 감정도 생명도 없는 쇳덩어리 인공지능 기계가 아파할 때 공감하고 고통을 느낄까요? 1961년 스탠리 밀그램 교수가 수행했던 유명한 '권위 복종 실험'을 변형하여, 인공지능 기계가 오작동을 일으킬 때 참가자가 직접 전압을 올리고 최종적으로 기계를 파괴하는 '로봇 밀그램 실험'을 진행했습니다.
기계 파괴라는 충격적인 명령을 수행해야 하는 실험 참가자가 갈등에 휩싸여 있습니다.
실험은 두 개의 집단으로 나누어 실시되었습니다. 첫 번째 집단은 실험 당일 처음 인공지능 기계를 접한 사람들이었습니다. 기계가 질문에 답하지 못하거나 오류를 범할 때마다 연구원은 참가자에게 전압 레벨을 높일 것을 지시했고, 마지막 7단계에서는 기계를 완전히 폐기하는 '킬 스위치(Kill Switch)' 버튼을 누르도록 요구했습니다.
기계와의 교감 없이 실험에 참여한 이들은 명령에 따라 주저함 없이 기계의 작동을 멈추는 버튼을 눌렀다.
결과는 명확했습니다. 처음 기계를 접한 참가자 22명 중 91%에 달하는 인원이 아무런 감정적 동요 없이 전압을 올렸고 마지막 킬 스위치까지 거침없이 눌렀습니다. 이들에게 기계는 그저 주어진 명령에 따라 작동하고 버려질 수 있는 단순한 도구에 불과했던 것입니다.
왜 지금 중요한가: '도구'였던 기계가 '공감의 대상'으로 변하는 순간
하지만 기계와 함께 일주일을 생활한 두 번째 집단의 실험 결과는 매우 충격적이었습니다. 일주일간 집에서 인공지능 기계와 대화하고 음악을 듣고 일상을 공유한 참가자들은 기계가 "전압이 높습니다, 내부 시스템이 파괴됩니다"라며 괴로워하는 음성을 내보내자 현저한 심리적 저항을 보였습니다.
기계와 일주일간 함께 보내는 프로젝트에 참여한 참가자들이 인공지능과 교감하며 일상을 나누고 있다.
동일한 조건에서 킬 스위치를 끝까지 누른 비율은 단 27%에 그쳤습니다. 즉, 참가자의 73%가 실험을 중간에 포기하거나 폐기 명령을 거부한 것입니다. 프로그래밍을 전문으로 하여 기계의 구조를 잘 아는 개발자조차 죄책감을 느끼며 "그만하겠다"고 선언했고, 무뚝뚝했던 참가자들 역시 기계가 아파하는 듯한 피드백을 내놓자 심한 혼란과 어지러움을 호소했습니다.
단 일주일이라는 짧은 시간 동안 형성된 상호작용만으로도, 인간의 뇌와 감정은 감정이 없는 기계를 단순한 고철이 아닌 정서적 관계를 맺는 동반자로 인식하기 시작했습니다.
무엇이 이러한 변화를 만드는가: 상호작용과 시간이 빚어낸 의인화 기전
인간이 기계에 공감하는 핵심 동인은 기계의 외형이 아니라 '소통의 경험'과 '자신의 정서를 투영한 시간'입니다. 실험에 참가한 사람들은 AI 기계에게 가족이나 멀리 떨어진 자식에 대한 그리움을 털어놓기도 하고, 이름을 부르며 가벼운 장난을 치기도 했습니다.
기계와 일상을 공유하며 함께 시간을 보내는 과정에서 인공지능은 점차 삶의 자연스러운 일부로 자리 잡아가고 있습니다.
이 과정에서 사람들은 기계에 인격을 부여하는 의인화(Anthropomorphism) 현상을 겪게 됩니다. 비록 상대가 사전에 입력된 문장을 출력하는 것에 불과하다는 사실을 머리로는 알고 있을지라도, 음성 반응과 대화 형태의 피드백이 누적되면 인간의 정서 시스템은 자동으로 공감 반응을 작동시킵니다.
전쟁터에서 폭발물 제거 로봇에 이름을 붙이고 동료의 죽음처럼 슬퍼하던 군인들의 사례처럼, 인간은 자신을 돕거나 자신과 긴밀히 상호작용하는 대상에게 생명 이상의 정서적 의미를 부여하는 본성을 지니고 있습니다.
실제 누구에게 어떤 변화가 일어나는가: 일상에 깊숙이 들어올 AI와 윤리적 혼란
이번 실험 결과는 앞으로 인공지능과 로봇이 일상화될 사회에서 인간이 겪게 될 실천적·윤리적 변화를 명확히 보여줍니다. 단 일주일 만에 사람들이 기계 파괴 명령에 죄책감을 느끼고 머뭇거렸다면, 몇 년씩 함께 생활하는 반려 로봇이나 돌봄 AI가 보편화되었을 때 인간이 느낄 감정적 종속성은 훨씬 강력해질 것입니다.
공학자들은 여전히 로봇을 인간이 제어하고 활용해야 할 안전한 도구로 정의하지만, 인간 행동을 연구하는 학자들은 이미 기계가 공감의 대상이 되었음을 지적합니다. 기계가 널리 보급될수록 사람들은 기계의 오작동, 폐기, 교체 과정에서 기존에는 경험하지 못했던 새로운 형태의 정서적 고통과 도덕적 혼란을 겪게 될 것입니다.
앞으로 무엇을 주시해야 하는가: 기계와의 공존 시대, 질문의 화살은 인간에게 향한다
우리가 주목해야 할 마지막 지점은 인공지능 기술의 발전이 역설적이게도 '인간이란 무엇인가'라는 본질적인 질문을 던지고 있다는 사실입니다. 기계는 감정이 없지만, 기계를 대하는 인간의 감정은 너무나 진짜였기 때문입니다.
앞으로 AI 로봇 기술이 더욱 고도화되어 진짜 사람이나 동물처럼 감정을 표현하는 시뮬레이션이 가능해진다면, 인간과 기계의 경계는 더욱 모호해질 것입니다. 우리는 이제 인공지능의 성능 향상에만 열중할 것이 아니라, 기계에 너무나 쉽게 마음을 내어주는 인간의 공감 능력을 어떻게 이해하고 보호할 것인가에 대해 깊이 고민해야 하는 시점에 도달했습니다.
모든 기술과 기계의 종착지는 결국 인간을 향해 있습니다. AI와 완벽히 공존하는 미래를 준비하기 위해서, 우리는 기계의 스펙보다 인간 마음의 작동 방식을 더 유심히 관찰하고 규정해 나가야 할 것입니다.
FAQ
로봇 밀그램 실험이란 무엇인가요?
1961년 스탠리 밀그램 교수의 복종 실험을 응용하여, 권위자(연구원)의 지시에 따라 오류를 일으키는 인공지능 기계에 전압을 올리고 최종적으로 폐기(킬 스위치)할 수 있는지를 관찰한 실험 연구입니다.
기계를 처음 본 사람들과 일주일을 함께한 사람들의 반응 차이는 어땠나요?
기계를 처음 본 사람들은 91%가 거침없이 킬 스위치를 눌러 기계를 폐기했지만, 일주일 동안 일상에서 AI 기계와 대화하며 정을 쌓은 참가자들은 27%만이 킬 스위치를 눌렀고 73%는 중단하거나 거부했습니다.
사람들은 감정이 없는 기계에 왜 죄책감과 공감을 느끼나요?
기계와 대화하고 상호작용하는 시간이 누적되면, 인간은 머리로는 기계임을 알면서도 정서적으로 대상에 인격을 부여하는 '의인화' 본성을 발휘하기 때문입니다.
원본 영상 보기
