해리스는 미국 대사관에서 한 연설에서 세계는 대규모 사이버 공격이나 AI가 만든 생물학 무기와 같은 실존적 위협뿐만 아니라 AI 위험의 "전 범위"에 대처하기 위해 지금 당장 행동을 시작해야 한다고 말했습니다.
그녀는 잘못된 AI 알고리즘으로 인해 노인의 건강 보험 플랜이 중단되거나, 딥페이크 사진으로 학대하는 파트너에게 위협을 받는 여성을 예로 들며 "우리의 행동을 요구하는 추가적인 위협이 있습니다. 현재도 피해를 입히고 있으며 많은 사람들에게 실존적 위협으로 느껴집니다."라고 말했습니다.
AI 안전 정상회담은 기술을 사랑하는 전직 은행가인 수낙의 애정 어린 노력의 결과입니다. 그는 영국을 컴퓨팅 혁신의 중심지로 만들고 싶어하며, 이 정상회담을 AI의 안전한 개발에 대한 글로벌 대화의 시작으로 삼았습니다.
해리스는 목요일에 정상회의에 참석할 예정이며, 캐나다, 프랑스, 독일, 인도, 일본, 사우디아라비아, 중국 등 20여 개국의 정부 관계자들과 함께 참석할 예정이다. 이들은 수낙이 이끄는 보수당 일부 의원들의 항의에도 불구하고 초대되었다.
블레츨리 선언으로 불리는 이 협정에 각국이 서명한 것은, 비록 세부 내용이 부족하고 AI 개발 규제 방안을 제시하지 않았음에도 불구하고, 의미 있는 성과입니다. 각국은 AI 위험에 대한 "공동 합의와 책임"을 향해 노력하기로 약속했으며, 향후 일련의 회의를 개최하기로 했습니다. 한국은 6개월 후 소규모 가상 AI 정상회의를 개최하고, 1년 후 프랑스에서 대면 정상회의를 개최할 예정입니다.
중국 과학기술부 차관 우자오후이는 AI 기술이 "불확실하고, 설명할 수 없으며, 투명성이 부족하다"고 말했습니다.
그는 "이는 윤리, 안전, 개인정보 보호, 공정성 측면에서 위험과 과제를 야기합니다. 복잡성이 커지고 있습니다."라고 말하며, 지난달 시진핑 중국 국가주석이 중국의 AI 거버넌스 글로벌 이니셔티브를 출범시킨 것을 언급했습니다.
그는 "우리는 지식을 공유하고 AI 기술을 오픈 소스 조건으로 대중에게 제공하기 위한 글로벌 협업을 촉구합니다."라고 말했습니다.
테슬라 CEO 일론 머스크도 목요일 밤 스트리밍될 수낙과 AI에 대해 논의할 예정입니다. 이 기술 억만장자는 올해 초 AI가 인류에게 미치는 위험에 대한 경종을 울리는 성명서에 서명한 인물 중 한 명입니다.
유럽연합 집행위원회 위원장 우르줄라 폰 데어 라이엔, 유엔 사무총장 안토니오 구테흐스, 앤트로픽, 구글의 딥마인드, 오픈AI 등 미국의 인공지능 기업 임원, 그리고 인공지능의 "대부" 중 한 명인 요슈아 벤지오 등 영향력 있는 컴퓨터 과학자들도 블레츨리 파크에서 열리는 회의에 참석합니다. 블레츨리 파크는 2차 세계대전 당시 암호 해독자들을 위한 극비 기지였으며, 현대 컴퓨팅의 발상지로 여겨집니다.
참석자들은 비공개 회의 형식 덕분에 건전한 토론이 촉진되었다고 말했습니다. Inflection AI의 CEO 무스타파 술레이만은 비공식적인 네트워킹 세션이 신뢰를 쌓는 데 도움이 된다고 말했습니다.
한편, 술레이만은 기자들에게 "공식적인 논의에서 사람들은 매우 명확한 성명을 발표할 수 있었고, 그 부분에서 남북 국가와 오픈 소스를 지지하는 국가와 지지하지 않는 국가 간에 상당한 의견 불일치가 나타났습니다."라고 말했습니다.
오픈소스 AI 시스템은 연구자와 전문가들이 문제를 신속하게 발견하고 해결할 수 있도록 해줍니다. 하지만 단점은 오픈소스 시스템이 공개되면 "누구나 악의적인 목적으로 사용할 수 있고, 이를 수정할 수 있다"는 것입니다. 벤지오는 회의에서 이렇게 말했습니다.
"오픈 소스와 보안 사이에는 이런 비호환성이 있습니다. 그렇다면 어떻게 해결해야 할까요?"
수낙 장관은 지난주 "기업이 아닌 정부만이 사람들을 AI의 위험으로부터 안전하게 보호할 수 있다"고 말했습니다. 그러나 그는 AI 기술 규제를 서두르지 말 것을 촉구하며, 먼저 AI에 대한 완전한 이해가 필요하다고 강조했습니다.
이와 대조적으로 해리스는 편견, 차별, 잘못된 정보의 확산 등 이미 발생하고 있는 사회적 해악을 포함하여 현재에 대한 해결책을 찾아야 한다고 강조했습니다.
그녀는 이번 주 조 바이든 대통령이 내린 행정명령에서 AI 안전장치를 명시한 것을 지적하며, 미국이 대중의 이익을 위해 인공지능에 대한 규칙을 개발하는 데 있어 모범을 보이고 있다는 증거라고 말했습니다.
해리스는 또한 다른 국가들이 군사적 목적으로 AI를 "책임감 있고 윤리적으로" 사용하겠다는 미국이 지원하는 서약에 서명하도록 독려했습니다.
그녀는 "바이든 대통령과 저는 모든 지도자가 대중을 잠재적 피해로부터 보호하고 모든 사람이 그 혜택을 누릴 수 있도록 AI가 도입되고 발전하도록 하는 도덕적, 윤리적, 사회적 의무가 있다고 믿습니다."라고 말했습니다.
게시 시간: 2023년 11월 21일
