AI는 인류를 위협할 수 있다는 영국 AI 태스크 포스 자문위원의 경고가 있습니다.
영국 총리의 인공지능(AI) 태스크포스 고문은 인간들이 AI를 통제하고 규제하기에는 2년정도의 시간이 있다고 밝혔다.
정부의 고급 연구 및 발명 기관(ARIA) 의 의장도 맡고 있는 매트 클리포드는 영국 지역 언론과의 인터뷰에서 “현재 시스템은 점점 더 능력을 향상시키고 있다”며 “앞으로 더욱 빠르게 능력이 향상될 것”이라고 강조했다.
그는 또한, 안전과 규제를 고려하지 않으면 2년 후에 시스템이 “매우 강력”해질 것이라고 말했다.
“우리는 이러한 대규모 모델을 통제하고 규제하는 데 더 많은 가능성을 제공하는 프레임워크를 마련할 두 해가 있다.”
클리포드는 인공지능에 대한 “매우 끔찍한” 단기 및 장기적 위험이 있다고 경고했다.
이 인터뷰는 OpenAI CEO 샘 알트만을 비롯한 350명의 AI 전문가가 서명한 최근 AI 안전을 위한 센터에서 발행된 공개문서 이후에 진행되었다. 이 문서는 AI가 핵무기와 전염병과 같은 종말론적 위협으로 다루어져야 한다고 주장했다.
“그들은 우리가 인간보다 더 뛰어난 지능, 새로운 종족을 만들어내면 어떻게 될지에 대해 이야기하고 있다.”
AI 태스크포스 고문은 AI가 존재하는 위협에 의해 “매우 위험”하며 “2년 후에 모델이 예상되는 위치로 인해 많은 인간을 죽일 수 있다”고 말했다.
관련 기사: ChatGPT 출시 이후 AI 관련 가상화폐 수익률은 최대 41% 상승
클리포드에 따르면, 규제기관과 개발자들의 주요 관심사는 모델을 통제하는 방법을 이해한 다음 전 세계적인 규제를 시행하는 것이어야 한다.
그는 현재 그가 가장 두려워하는 것은 AI 모델의 행동 방식을 완전히 이해하지 못하는 것이라고 말했다.
“가장 능력있는 시스템을 구축하는 사람들은 [AI 시스템이] 어떻게 행동하는지 정확히 이해하지 못한다고 자유롭게 인정하고 있다.”
클리포드는 강력한 AI 모델이 배치되기 전에 일종의 감사 및 평가 프로세스를 거쳐야 한다는 것에 대해 AI를 만드는 조직의 많은 지도자들이 동의한다는 점을 강조했다.
현재 전 세계 규제 기관들은 기술과 그 영향력을 이해하고, 사용자를 보호하면서 혁신을 허용할 수 있는 규제를 만들기 위해 분주하게 노력하고 있다.
6월 5일, 유럽 연합 관계자들은 모든 AI 생성 콘텐츠가 표시되어야 한다는 제안을 내놓아 허위 정보를 방지하려고 했다.
영국에서는 야당 노동당의 전면 의원이 AI 기술을 의약품 및 핵 전력과 같은 것으로 규제해야 한다는 센터 AI 안전 문서에서 언급된 내용을 반복하면서 이와 같은 생각을 나타내고 있다.
매거진: AI Eye: ChatGPT의 주식 추천으로 2만 5천 명의 트레이더가 베팅, AI는 주사위 던지기에서 실패한다
