OpenAI는 ‘초지능’ AI 시스템에 대응하기 위한 새로운 팀을 구성합니다.
인공 지능(AI) 챗봇 ChatGPT의 인기를 얻은 회사는 초지능 AI 시스템의 위험을 통제하고 관리하기 위한 팀을 구성할 예정이라고 밝혔습니다.
OpenAI는 7월 5일 블로그에서 발표한 공지에서 새로운 팀이 “우리보다 훨씬 똑똑한 AI 시스템을 조종하고 통제하는” 역할을 맡을 것이라고 밝혔습니다.
이 비영리 단체는 초지능이 “인류가 발명한 가장 영향력 있는 기술”이며 많은 문제를 해결하는 데 도움이 될 것이라고 믿지만, 그에는 위험도 따릅니다.
“초지능의 거대한 힘은 매우 위험할 수 있으며, 인류의 권력을 약화시키거나 인류 멸망으로 이어질 수도 있습니다.”
이 회사는 초지능이 이번 10년에 도래할 것으로 믿고 있습니다.
이 회사는 이미 확보한 컴퓨팅 자원의 20%를 이 노력에 투여하고, “인간 수준”의 자동화된 조정 연구원을 만들기 위해 노력할 것이라고 밝혔습니다. 자동화된 연구원은 이론상으로 팀이 초지능의 안전을 관리하고 “인간의 의도”와 일치시키는 데 도움이 될 것입니다.
이 회사는 이 노력의 공동 지도자로 최고 과학자인 Ilya Sutskever와 조정 연구소 소장인 Jan Leike를 지명했습니다. 또한 기계 학습 연구원과 엔지니어들에게 팀에 합류할 것을 공개적으로 요청했습니다.
관련 기사: OpenAI, 사용자들이 벽락을 통과하는 것을 이유로 ChatGPT의 Bing 기능 일시 중단
OpenAI의 이 발표는 전 세계 정부들이 AI 시스템의 개발, 배포 및 사용을 통제하기 위한 조치를 고려하는 가운데 나온 것입니다.
유럽 연합 국가들의 규제 기술은 가장 진전된 상태입니다. 6월 14일, 유럽 의회는 AI 생성 콘텐츠의 모든 AI 생성 콘텐츠를 공개하는 것을 의무화하는 EU AI Act를 통과시켰습니다.
이 법안은 실행 전 추가 토론이 필요합니다. 그러나 이는 혁신에 미칠 수 있는 잠재적 영향에 대한 AI 개발자들의 격렬한 반응을 일으켰습니다.
OpenAI의 CEO인 Sam Altman은 과도한 규제의 부정적 영향에 대해 유럽 연합 규제 기관과 회담하기 위해 브뤼셀을 방문했습니다.
미국의 입법자들은 또한 국가의 AI 접근 방식을 결정하기 위한 기구를 설립하기 위한 국가 AI 위원회 법안을 발의했습니다. 미국의 규제 기관들은 또한 이 기술을 규제하고자 하는 의지를 밝혔습니다.
6월 30일, Michael Bennet 상원의원은 OpenAI를 포함한 주요 기술 기업들에게 AI 생성 콘텐츠의 라벨링을 요구하는 편지를 작성했습니다.
매거진: BitCulture: 솔라나 위의 예술, AI 음악, 팟캐스트 + 도서 리뷰
