해리스는 미국 대사관에서 한 연설에서 대규모 사이버 공격이나 AI로 만들어진 생물 무기와 같은 실존적 위협뿐만 아니라 AI 위험의 "전반적인" 문제를 해결하기 위해 세계가 지금 행동을 시작해야 한다고 말했습니다.
그녀는 결함이 있는 AI 알고리즘으로 인해 건강 관리 계획을 시작한 노인이나 AI 알고리즘으로 인해 건강 관리 계획을 시작한 여성을 언급하면서 “우리의 행동을 요구하는 추가 위협이 있습니다. 현재 해를 끼치고 있으며 많은 사람들에게 존재감을 느끼는 위협이 있습니다.”라고 말했습니다. 딥페이크 사진을 가지고 있는 악의적인 파트너.
AI 안전 서밋은 영국이 컴퓨팅 혁신의 허브가 되기를 바라는 기술을 사랑하는 전직 은행가인 Sunak의 사랑의 노동이며, 이 서밋을 AI의 안전한 개발에 대한 글로벌 대화의 시작으로 삼았습니다.
해리스는 목요일 정상회담에 참석할 예정이며, 캐나다, 프랑스, 독일, 인도, 일본, 사우디아라비아, 중국 등 20여 개국 정부 관료들과 함께 수낙 집권 보수당 일부 의원들의 항의에 초청됐다.
블레츨리 선언(Bletchley Declaration)이라고 불리는 협정에 국가들이 서명하도록 한 것은 비록 세부 사항이 가볍고 AI 개발을 규제하는 방법을 제안하지 않더라도 성과였습니다. 각국은 AI 위험에 대한 '공동 합의와 책임'을 위해 노력하고 일련의 추가 회의를 개최하기로 약속했습니다. 한국은 6개월 뒤에 미니 가상 AI 정상회담을 열고, 1년 뒤에는 프랑스에서 직접 정상회담을 연다.
중국 과학기술부 차관 우자오후이(Wu Zhaohui)는 AI 기술이 “불확실하고 설명할 수 없으며 투명성이 부족하다”고 말했다.
“윤리, 안전, 개인 정보 보호 및 공정성에 위험과 과제를 가져옵니다. 그 복잡성이 나타나고 있습니다.”라고 그는 시진핑 중국 국가주석이 지난달 AI 거버넌스를 위한 국가의 글로벌 이니셔티브를 시작했다고 언급했습니다.
“우리는 지식을 공유하고 AI 기술을 오픈 소스 조건으로 대중에게 제공하기 위한 글로벌 협력을 요구합니다.”라고 그는 말했습니다.
Tesla CEO Elon Musk도 목요일 밤에 스트리밍될 대화에서 Sunak과 AI에 대해 논의할 예정입니다. 기술 억만장자는 올해 초 AI가 인류에 미치는 위험에 대해 경고하는 성명서에 서명한 사람들 중 하나였습니다.
우르줄라 폰 데어 라이엔 유럽연합(EU) 집행위원장, 안토니오 구테흐스 유엔 사무총장, 앤트로픽(Anthropic), 구글의 딥마인드(DeepMind), 오픈AI(OpenAI) 등 미국 인공지능(AI) 기업 임원과 AI '대부' 중 한 명인 요슈아 벤지오(Yoshua Bengio) 등 영향력 있는 컴퓨터 과학자들도 참석한다. 현대 컴퓨팅의 탄생지로 여겨지는 제2차 세계대전 암호해독자들의 일급 비밀 기지였던 블레츨리 파크에서의 회의입니다.
참석자들은 비공개 회의 형식이 건전한 토론을 조성해 왔다고 말했습니다. Inflection AI의 CEO인 Mustafa Suleyman은 비공식 네트워킹 세션이 신뢰 구축에 도움이 된다고 말했습니다.
한편, 공식 토론에서 “사람들은 매우 명확한 진술을 할 수 있었으며, 여기서 남북한 국가들과 오픈 소스를 더 선호하고 오픈 소스를 덜 선호하는 국가들 사이에 상당한 의견 차이가 있었습니다. 출처입니다.” Suleyman이 기자들에게 말했습니다.
오픈소스 AI 시스템을 통해 연구자와 전문가는 문제를 빠르게 발견하고 해결할 수 있습니다. 그러나 단점은 일단 오픈 소스 시스템이 공개되면 “누구나 이를 악용할 수 있고 악의적인 목적으로 조정할 수 있다”고 Bengio는 회의에서 말했습니다.
“오픈 소스와 보안 사이에는 이러한 비호환성이 있습니다. 그럼 어떻게 처리해야 할까요?”
지난주 Sunak은 기업이 아닌 정부만이 AI의 위험으로부터 사람들을 안전하게 지킬 수 있다고 말했습니다. 그러나 그는 AI 기술에 대한 완전한 이해가 먼저 필요하다며 성급하게 규제하는 것은 반대했다.
반면 해리스는 “편견과 차별, 잘못된 정보의 확산 등 이미 일어나고 있는 사회적 피해”를 포함해 지금의 상황을 해결해야 한다고 강조했다.
그녀는 이번 주 조 바이든 대통령의 AI 보호 조치를 명시한 행정 명령을 미국이 공익을 위해 작동하는 인공 지능에 대한 규칙 개발에서 모범을 보이고 있다는 증거로 지적했습니다.
해리스는 또한 군사 목적을 위해 AI를 '책임있고 윤리적으로' 사용하겠다는 미국의 지원 서약에 다른 국가들이 서명하도록 독려했습니다.
“바이든 대통령과 저는 모든 지도자들이 대중을 잠재적인 위험으로부터 보호하고 모든 사람이 AI의 혜택을 누릴 수 있도록 AI를 채택하고 발전시킬 도덕적, 윤리적, 사회적 의무가 있다고 믿습니다.” 말했다.
게시 시간: 2023년 11월 21일
