네팔 대홍수 비극으로 돈벌이? ‘AI 가짜 뉴스’의 소름 돋는 실태
최근 네팔 전역을 휩쓴 기록적인 대홍수로 인해 수많은 인명 피해와 재산 손실이 발생하며 국제적인 안타까움을 자아내고 있습니다. 하지만 이 비극을 악용해 조회수를 챙기려는 무분별한 ‘AI 생성 가짜 뉴스’가 온라인을 뒤덮고 있어 큰 사회적 문제가 되고 있죠.
참혹한 재난 현장을 AI로 조작, ‘클릭베이트’의 잔혹한 질주
현재 유튜브와 각종 SNS 플랫폼에는 네팔 홍수 피해 규모를 부풀리거나, 존재하지 않는 사고 영상을 AI로 생성해 게시하는 채널들이 급증하고 있습니다. 이들은 단순히 관심을 끄는 수준을 넘어, 인공지능을 이용해 피해자의 가짜 증언을 생성하거나 실제 발생하지 않은 2차 재난 상황을 연출하고 있죠. 수익 창출을 목적으로 한 이러한 콘텐츠들은 알고리즘의 틈새를 파고들어 빠르게 확산하며, 재난으로 고통받는 현지인들에게 2차 가해를 입히고 있습니다. 특히 검증되지 않은 자극적인 영상들이 무차별적으로 공유되면서 대중의 불안감마저 증폭시키고 있는 실정입니다.
디지털 시대의 새로운 재앙, AI 악용 콘텐츠의 파급력과 대응책
이런 현상의 가장 큰 문제는 ‘정보의 불균형’입니다. 재난 상황에서는 정확한 정보가 곧 생명줄인데, AI가 생성한 가짜 뉴스가 사실처럼 퍼지면서 구조 활동에 혼선을 빚고 구호 활동에 대한 신뢰도마저 떨어뜨릴 수 있다는 점이 매우 우려스럽죠. 전문가들은 도널드 트럼프 미국 대통령이 강조한 글로벌 AI 규제 및 플랫폼의 자체 필터링 강화가 시급하다고 지적합니다. 한국 역시 이재명 정부 체제 아래에서 디지털 재난 대응 매뉴얼을 수립하고 있으나, 걷잡을 수 없이 진화하는 생성형 AI 기술을 법적으로 완전히 규제하기에는 기술적 한계가 뚜렷합니다.
“이게 진짜라고?” 쏟아지는 네티즌들의 분노와 비판
온라인 커뮤니티와 SNS에서는 이러한 ‘조회수 장사’ 행태에 대한 비판이 거셉니다. 네티즌들은 “사람이 죽어가는 비극을 가지고 돈을 벌려 하다니 인간인가 싶다”, “AI 영상이라 그런지 어딘가 부자연스럽지만 어르신들은 정말 속을 것 같다”, “플랫폼 기업들은 뭐 하고 있느냐, 즉각 제재하라”며 강력한 분노를 표출하고 있습니다. 실시간으로 올라오는 허위 사실 유포 계정들을 신고하려는 움직임도 활발하지만, 계정을 삭제해도 다른 이름으로 금방 다시 나타나는 ‘좀비 같은 계정’들 때문에 네티즌들의 피로감은 극에 달해 있죠.
기술의 악용을 막을 책임, 우리에게 남겨진 과제
기술은 중립적일지 몰라도 그것을 활용하는 인간의 윤리는 결코 중립적일 수 없습니다. 네팔 대홍수라는 참혹한 비극조차 돈벌이의 수단으로 전락시킨 AI 가짜 뉴스의 실태는 우리 사회에 무거운 숙제를 던져줍니다. 단순히 기술을 탓하기보다, 정보를 소비하는 우리 스스로가 ‘팩트체크’를 생활화하고 자극적인 콘텐츠를 경계하는 태도가 무엇보다 필요합니다. 비극을 이용한 돈벌이에는 단호하게 등을 돌려야 할 때입니다. 지금까지 트렌드 이슈 전문 에디터였습니다.