취리히 대학의 연구원들은 인공 지능이 생성한 댓글을 사용하여 Reddit 게시판에서 4개월 동안 허가 없이 실험을 수행한 혐의를 받았습니다. 이 실험은 AI가 사람들의 의견을 바꿀 수 있는지 테스트하기 위한 것이었습니다. r/changemyview 서브레딧의 관리자들은 4월 26일 게시글에서 실험의 일환으로 AI 기반 계정이 강간 피해자, 특정 사회 운동에 반대하는 사람, 학대 전문 트라우마 상담사 등 다양한 페르소나를 위조했다고 밝혔습니다. “저희 서브는 명백히 인간적인 공간이며, 공개되지 않은 AI를 핵심 가치로 삼는 것을 거부합니다.”라고 진행자들은 말했다. “사람들은 AI와 자신의 견해를 논의하거나 실험당하기 위해 여기에 오는 것이 아닙니다.”
논문 초안에 따르면 , 연구진은 AI를 사용하여 응답을 생성했지만 정치적 성향, 성별, 나이, 민족성 등 원래 게시자의 이전 Reddit 기록 정보를 기반으로 답변을 개인화하려고 시도했습니다 .
4개월간의 실험 기간 동안 취리히 대학의 가짜 AI 계정은 1,783개의 댓글을 게시하고 137개의 델타를 받았습니다. 이는 다른 Reddit 사용자가 해당 계정이 해당 문제에 대한 의견을 바꾸도록 설득했다고 인정했을 때 나타나는 성과입니다.
연구진은 서브레딧에 올린 게시물에서 모든 댓글은 커뮤니티 가이드라인을 준수하는지 확인하고 “잠재적 피해를 최소화하기 위해” 게시 전에 수동으로 검토했다고 밝혔습니다 .
대학 연구팀은 실험에 사용된 대규모 언어 모델이 매우 설득력이 강해 “이전에 알려진 인간 설득력의 기준”을 모두 뛰어넘을 수 있다는 사실을 발견했기 때문에 “이 연구의 잠재적 이점이 위험성보다 훨씬 크다”고 주장했습니다. 연구진은 “저희의 통제된 저위험 연구는 LLM의 실제 설득 능력에 대한 귀중한 통찰력을 제공했습니다. 이 능력은 누구나 쉽게 접근할 수 있는 능력이며, 악의적인 행위자는 훨씬 더 위험한 이유로 대규모로 악용할 수 있습니다.”라고 말했습니다.
동시에 연구진은 이 실험을 통해 인간과 AI를 구별하는 것이 여전히 상당한 어려움에 직면해 있다는 것을 보여주었다고 말했습니다. 실험이 진행되는 동안 서브레딧에 AI 봇이 있다는 사실을 발견한 사람이 아무도 없었기 때문입니다.
r/changemyview 게시판은 380만 명의 회원을 보유하고 있으며, 규모 기준으로는 상위 1%의 서브레딧에 속합니다.
Reddit은 법적 옵션을 고려합니다
Reddit 게시판의 관리자는 해당 실험에 대해 알지 못했으며 대학 측에 사과와 연구 결과 공개를 차단해 달라고 요청했습니다. Reddit은 법적 조치를 고려하고 있을 수도 있습니다. 플랫폼의 최고 법률 책임자인 벤 리가 4월 28일 후속 게시물에서 이 실험이 사이트의 사용자 계약 및 규칙을 위반했으며, 취리히 대학교 연구 활동과 관련된 모든 알려진 계정이 현재 금지되었다고 밝혔습니다.
이 교수는 “우리는 취리히 대학과 해당 연구팀에 공식적인 법적 요구를 하는 과정에 있습니다.”라고 말했습니다.
그는 “우리는 지역 사회를 지원하고 연구자들이 이곳에서 저지른 잘못에 대한 책임을 지도록 하기 위해 최선을 다하고 싶습니다.”라고 덧붙였습니다.
취리히 대학교 인문학부 윤리위원회는 해당 서브레딧에 대한 답변에서 해당 사건을 조사했으며, 향후 피험자들과 더욱 긴밀히 협력할 것을 약속했습니다. 해당 프로젝트의 책임 조사관도 공식 경고를 받았습니다.
윤리위원회는 “이 프로젝트는 중요한 통찰력을 제공하며, 위험은 미미합니다. 즉, 출판을 보류하는 것은 이 연구를 통해 얻은 통찰력의 중요성에 비례하지 않습니다.”라고 밝혔습니다.
취리히 대학교는 논평 요청에 즉시 응답하지 않았습니다. 코인텔레그래프는 실험과 관련된 이메일 주소로 보낸 질문에 대한 답변을 즉시 받지 못했습니다.