베난티 신부 "AI 시대는 하나의 문턱…최대 위협은 초지능 아닌 초조작"
"정신적 방어막인 '뇌 헬멧'과 '알고리즘 윤리' 필요성 강조"
페이지 정보
최고관리자 기자 작성일2026-06-10 09:53
본문
이신은기자= 인공지능(AI) 시대는 한마디로 인류가 건너는 '문턱(soglia)'입니다. 우리는 지금 한 시대와 다른 시대를 가르는 문턱을 넘어가고 있어요."
제20회 생명의 신비상 인문사회과학분야 본상을 받은 AI 윤리학자 파올로 베난티 신부는 9일 시상식 직후 뉴시스와 가진 인터뷰에서 AI 시대를 '문턱'으로 정의했다.
로마 그레고리안대학교 교수이자 세계적인 AI 윤리학자인 베난티 신부는 그동안 AI 시대의 인간 존엄과 윤리 기준을 제시하고, AI가 인간의 책임 있는 판단을 보조해야 한다고 역설해 왔다.
그는 이날 인터뷰에서 "그 '문턱' 자체는 선도 악도 아니다"라며 "우리가 어떤 선택을 하느냐에 따라 미래가 결정될 것"이라고 강조했다.
AI가 급속히 발전할수록 인간 존엄에 대한 성찰이 더욱 중요하다는게 베난티 신부의 생각이다.
"생명의 신비를 지킨다는 것은 인간이 그 어떤 계산도 초월하는 존재임을 상기시키는 것입니다.
기술 발전을 멈추는 것이 아니라 인간 안에 존재하는 ‘측정할 수 없는 것’을 희생시키지 않는 것이 무엇보다 중요합니다."
베난티 신부가 AI 윤리에 관심을 갖게 된 것도 인간에 대한 문제의식에서 출발했다.
그는 생명윤리와 도덕철학을 연구하던 중 디지털 기술이 인간의 습관을 넘어 사고방식과 관계 형성 방식까지 변화시키고 있음을 목격했다.
베난티 신부가 AI 윤리에 관심을 갖게 된 것도 인간에 대한 문제의식에서 출발했다.
그는 생명윤리와 도덕철학을 연구하던 중 디지털 기술이 인간의 습관을 넘어 사고방식과 관계 형성 방식까지 변화시키고 있음을 목격했다.
이는 단순한 기술 문제가 아니라 인간 삶 전체에 관한 문제라고 판단했다. 특히 프란치스코회 전통이 강조하는 취약한 이들에 대한 관심이 AI 윤리 연구의 동력이 됐다고 설명했다.
베난티 신부는 AI를 현대 문명의 가치와 모순, 권력 구조를 비추는 '거울'로 규정했다. AI는 지식 생산을 가속화하고 노동시장을 재편하는 동시에 민주주의와 개인 정체성에 대한 새로운 질문을 던지고 있다는 것이다.
베난티 신부는 AI를 현대 문명의 가치와 모순, 권력 구조를 비추는 '거울'로 규정했다. AI는 지식 생산을 가속화하고 노동시장을 재편하는 동시에 민주주의와 개인 정체성에 대한 새로운 질문을 던지고 있다는 것이다.
특히 AI 시대의 가장 큰 위험으로 '권력 집중'을 꼽았다.
거대 플랫폼 기업과 막대한 컴퓨팅 자원을 가진 국가들이 AI를 통해 더 강력한 영향력을 갖게 되면서 민주적 통제와 책임의 원리가 약화될 수 있다고 우려했다.
베난티 신부는 이 상황을 "누구도 책임지지 않지만 권력이 행사되는 '알고리즘의 평범성'"이라고 표현하면서 "누군가의 악의 때문이 아니라, 아무도 책임지지 않으면서 권력을 행사하는 기술적 질서가 조용히 정상화되는 현상"이라고 설명했다.
최근 논란이 되는 초인공지능(ASI)에 대해서도 신중한 접근을 주문했다. 그가 우려하는 것은 먼 미래의 초지능보다 현재 진행형인 '초조작(super manipulation)'이다.
"모두가 초지능을 이야기하지만 제가 두려운 것은 인간의 자유를 건드리는 '초조작'입니다. 챗봇과 알고리즘이 인간의 판단과 선택을 조용히 조작할 수 있다는 점이 훨씬 현실적인 위험입니다."
거대 플랫폼 기업과 막대한 컴퓨팅 자원을 가진 국가들이 AI를 통해 더 강력한 영향력을 갖게 되면서 민주적 통제와 책임의 원리가 약화될 수 있다고 우려했다.
베난티 신부는 이 상황을 "누구도 책임지지 않지만 권력이 행사되는 '알고리즘의 평범성'"이라고 표현하면서 "누군가의 악의 때문이 아니라, 아무도 책임지지 않으면서 권력을 행사하는 기술적 질서가 조용히 정상화되는 현상"이라고 설명했다.
최근 논란이 되는 초인공지능(ASI)에 대해서도 신중한 접근을 주문했다. 그가 우려하는 것은 먼 미래의 초지능보다 현재 진행형인 '초조작(super manipulation)'이다.
"모두가 초지능을 이야기하지만 제가 두려운 것은 인간의 자유를 건드리는 '초조작'입니다. 챗봇과 알고리즘이 인간의 판단과 선택을 조용히 조작할 수 있다는 점이 훨씬 현실적인 위험입니다."
베난티 신부는 이미 소셜미디어 알고리즘이 젊은 세대의 사고방식과 가치관 형성에 영향을 미치고 있다고 지적하며, '뇌 헬멧(brain helmet)'의 필요성을 제기했다.
자동차 운전 시 헬멧과 안전장치가 필요하듯 디지털 환경에서도 정신적 방어막과 교육, 사회적 규범이 마련돼야 한다는 것이다.
AI 시대에 종교의 역할도 중요해질 것이라고 그는 내다봤다. 종교는 기술적 효율성만으로 설명할 수 없는 인간의 영적·관계적 차원, 그리고 공동선의 가치를 제시할 수 있기 때문이다.
"교황청을 비롯한 여러 신앙 전통이 인공지능에 대해 목소리를 내는 것은 제도적 우위를 주장하려는 것이 아닙니다.
AI 시대에 종교의 역할도 중요해질 것이라고 그는 내다봤다. 종교는 기술적 효율성만으로 설명할 수 없는 인간의 영적·관계적 차원, 그리고 공동선의 가치를 제시할 수 있기 때문이다.
"교황청을 비롯한 여러 신앙 전통이 인공지능에 대해 목소리를 내는 것은 제도적 우위를 주장하려는 것이 아닙니다.
인간은 누구인가, 무엇을 보호해야 하는가, 우리의 집단적 선택을 어떤 미래로 향하게 할 것인가 등 기술적 전문성만으로는 대답할 수 없는 질문들이 존재함을 상기시키려는 것입니다."
그는 종교의 역할을 '단기적인 근시안을 교정하는 치료제'에 비유했다.
AI가 종교를 대체할 수 있다는 주장도 경계했다.
"AI는 사랑하지도, 고통을 느끼지도 않으며 깊은 의미에서 알지 못합니다. 경청을 흉내 낼 수는 있지만 '존재(presence)' 자체의 의미를 줄 수는 없습니다."
베난티 신부는 AI가 아무리 발전하더라도 인간의 영역을 완전히 대체할 수는 없다고 강조했다.
그는 종교의 역할을 '단기적인 근시안을 교정하는 치료제'에 비유했다.
AI가 종교를 대체할 수 있다는 주장도 경계했다.
"AI는 사랑하지도, 고통을 느끼지도 않으며 깊은 의미에서 알지 못합니다. 경청을 흉내 낼 수는 있지만 '존재(presence)' 자체의 의미를 줄 수는 없습니다."
베난티 신부는 AI가 아무리 발전하더라도 인간의 영역을 완전히 대체할 수는 없다고 강조했다.
특히 되돌릴 수 없는 판단, 영적 동반, 민주적 의사결정과 같은 문제는 끝내 인간이 책임져야 할 영역으로 남을 것이라고 했다.
이탈리아 출신인 그는 제조업 강국인 자국의 경험을 언급하며 "한국 역시 글로벌 기술 경쟁에서 뒤처지지 않도록 AI를 적극적으로 개발하고 발전시켜야 한다"고 말했다.
베난티 신부는 AI가 인간의 영역을 완전히 대체할 수는 없다고 강조했다. 특히 되돌릴 수 없는 판단, 영적 동반, 민주적 의사결정은 인간이 책임져야 할 영역으로 남아야 한다고 했다.
인터뷰 말미에 그는 AI를 두려움이나 낙관만으로 바라봐서는 안 된다고 거듭 강조했다.
"미래는 아직 쓰이지 않았습니다. 우리가 어떤 규칙을 만들고 어떤 가치를 선택하느냐에 따라 달라질 수 있다고 합니다.
베난티 신부는 AI가 인간의 영역을 완전히 대체할 수는 없다고 강조했다. 특히 되돌릴 수 없는 판단, 영적 동반, 민주적 의사결정은 인간이 책임져야 할 영역으로 남아야 한다고 했다.
인터뷰 말미에 그는 AI를 두려움이나 낙관만으로 바라봐서는 안 된다고 거듭 강조했다.
"미래는 아직 쓰이지 않았습니다. 우리가 어떤 규칙을 만들고 어떤 가치를 선택하느냐에 따라 달라질 수 있다고 합니다.
lse720409@naver.com