AI가 만든 가짜 사진에 주가 급락

미국 국방부 청사(펜타곤)에서 폭발이 일어났다는 가짜 사진이 22일 SNS에 퍼지면서 뉴욕 증시가 곤두박질쳤습니다. AI가 만든 가짜뉴스의 영향이 주식시장이나 선거 등에 악영향을 끼칠 수 있다는 우려가 현실로 확인된 순간이었습니다.

 

AI가 만든 가짜 사진 (트위터)

 

AI 가짜 사진

월요일 미국 증시가 개장하고 30분이 지난 22일 오전 10시께 미국 국방부 펜타곤에서 폭발이 발생한 가짜 사진 한 장이 SNS에 삽시간에 퍼졌습니다. 이 사진을 러시아 관영매체인 RT가 '펜타곤 근처에서 폭발 보도가 있다'며 SNS에 올리자 공포는 더욱 가중됐습니다. 10여 분간 혼란 끝에 미국 당국이 "폭발은 없었고 인공지능(AI)이 생성한 가짜 사진"이라고 발표하면서 해프닝으로 마무리됐습니다.

 

블룸버그, CNN을 비롯한 외신은 이날 미국 버지니아주 알링턴 카운티에 있는 펜타곤 인근에서 폭발이 발생한 사진이 트위터·페이스북 등 SNS를 통해 유포됐다고 보도했습니다. 트위터가 진짜를 뜻하는 '블루마크' 계정도 사진을 퍼 날랐습니다. 특히 이 사진을 게재한 일부 SNS 계정은 블룸버그나 CNBC 등 언론사 계정을 모방한 형태를 취해 소방당국 등에 의해 사실관계가 확인될 때까지 큰 혼란을 초래했습니다. 

 

 

뉴욕 증시 급락

장 초반 상승세였던 뉴욕 증시는 곧장 곤두박질쳤습니다. 오전 10시 6분부터 10분까지 S&P500지수는 0.3% 하락했고, 다우존스30 산업평균지수도 80포인트 하락했습니다. 반면 금과 미국 국채 등 안전자산 가격은 급등했습니다.

 

사진이 가짜로 판명나면서 주가는 반등했지만 AI발 가짜뉴스의 위력이 얼마나 큰지 실감한 순간이었습니다. AI를 활용한 가짜 뉴스가 SNS를 통해 급속히 확산할 경우 정보에 민감한 주식시장이나 향후 대형 선거 이벤트에 사회적 악영향을 끼칠 수 있다는 우려가 현실로 확인된 셈입니다. 블룸버그는 "AI 생성 가짜뉴스에 시장이 농락당한 첫 사례"라고 보도했습니다.

 

 

AI 가짜 정보 우려

앞서 '챗GPT의 아버지' 샘 올트먼 오픈 AI CEO는 최근 미국 의회 청문회에서 "대규모 언어 모델(LLM)을 기반으로 한 대화형 AI가 조작되고 상호적인 가짜 정보를 퍼뜨릴 수 있다"며 "내년 미국 대선을 앞두고 모델이 점점 진화할 가능성이 있다"고 경고했습니다.

 

블룸버그는 "해당 이미지 출처는 불분명하다"며 "AI로 이미지나 콘텐츠를 쉽게 만들 수 있는 신흥 기술이 잘못된 정보의 확산을 가속화할 것이라는 우려가 깊어지고 있다"고 지적했습니다.

 

전문가들은 문제의 AI 사진을 자세히 들여다보면 AI가 만든 전형적인 결함을 발견할 수 있다고 지적했습니다. 디지털포렌식 전문가인 하니 파리드 UC버클리 컴퓨터공학과 교수는 "울타리가 불규칙하고 사진 곳곳이 흐리며 건물의 창문은 온라인에서 찾을 수 있는 펜타곤 사진과 일치하지 않는다"면서 "AI 생성 이미지에서 일반적으로 발견되는 결함"이라고 설명했습니다.

 

·

AI가 만든 가짜사진, 미국 증시를 흔들었다 - 매일경제