구글이 AI가 잘못된 정보를 제공했다는 논란에 또다시 휩싸였는데, 이번에는 자사의 검색 엔진에 통합된 ‘제미니(Gemini)’를 홍보하는 영상에서 문제가 발생했다. 제미니의 출시 행사는 오픈AI가 ChatGPT-4o를 공개한 지 불과 하루 만에 열렸으며, 이는 AI 경쟁이 점점 더 치열해지고 있음을 보여준다.
두 기술 기업 모두 AI의 성능을 보여주는 인상적인 소개 영상을 공개하며, 우리가 정보와 상호작용하는 방식을 혁신할 것이라고 약속했다. 그러나 구글의 “제미니(Gemini)” 소개 영상은 곧바로 네티즌들에게 지적을 받으며 지식적 측면에서 심각한 오류가 드러났다.
영상에서 제미니는 “이 레버가 끝까지 움직이지 않는 이유는 무엇인가요?”라는 질문과 함께 고장 난 필름 카메라에 대한 해결책을 제시해 달라는 요청을 받았습니다. 제미니는 여러 가지 해결책을 나열했는데, 그중에는 매우 위험한 해결책도 포함되어 있었습니다: “카메라가 걸렸다면 뒷면 덮개를 열고 필름을 조심스럽게 꺼내세요“.
필름 카메라를 사용해 본 사람이라면 누구나, 강한 햇빛이 내리쬐는 야외에서 카메라 뒷면 덮개를 열면 필름 전체가 망가진다는 사실을 잘 알고 있을 것이다. The Verge가 최초로 발견한 이 실수는, 종종 “환각’에 빠지거나 잘못된 정보를 제공하는 AI 챗봇을 사용할 때 내재된 위험을 여실히 보여준다.
구글이 AI 문제로 곤란을 겪은 것은 이번이 처음이 아니다. 작년, 챗봇 ‘바드(Bard)’는 제임스 웹 우주 망원경에 대해 부정확한 정보를 제공해 비판을 받았는데, 이 망원경이 태양계 밖 행성의 사진을 최초로 촬영한 천문대라고 주장했기 때문이다.
올해 초, 제미니는 백인 이미지를 생성하지 않기로 한 결정으로 논란에 휩싸였으며, “지나치게 정치적 올바름에 치우쳤다”는 비판을 받았고, “아시아계 나치’나 ”미국을 건국한 흑인 아버지들’과 같은 역사적으로 잘못된 이미지를 생성했다는 지적을 받았습니다. 구글 경영진은 이에 대해 사과하며 “중요한 부분을 간과했다”고 인정했습니다.
AI 챗봇의 오류는 사용자에게 불편을 줄 뿐만 아니라, 이를 사용하는 기업에 법적 책임을 초래할 수도 있습니다. 지난 2월, 캐나다의 한 법원은 에어 캐나다(Air Canada)가 사망한 승객의 유가족을 위한 할인 프로그램에 대해 챗봇을 통해 잘못된 정보를 제공한 것에 대해 책임을 지도록 판결했습니다.
위의 사례들은 구글이 AI의 정확성과 신뢰성을 보장하기 위해 아직 해결해야 할 과제가 많음을 보여준다. 기술 기업들은 AI를 개발하고 도입하는 과정에서 더욱 신중을 기해야 하며, 자사의 평판과 법적 책임에 영향을 미칠 수 있는 유감스러운 실수를 피해야 한다.
EZ Fast Tech: AI 기술을 적용한 전문적이고 SEO에 최적화된 웹사이트 솔루션
풍부한 경험과 열정을 갖춘 전문가 팀을 보유한 EZ Fast Tech는 전문적이고 SEO에 최적화된 웹사이트를 구축할 수 있도록 도와드리는 원스톱 웹사이트 디자인 및 개발 서비스를 자랑스럽게 제공합니다:
- 요청에 따라 웹사이트 기획 및 디자인
- SEO에 최적화된 웹사이트 제작, 빠른 로딩 속도
- 콘텐츠, 이미지 및 동영상 최적화
- 웹사이트 유지보수 및 지원 서비스 제공
