다리오 아모데이 // 기술·AI

다리오 아모데이가 백악관에서 AI 위험에 대해 논쟁을 벌였다³. 다리오 아모데이의 AI 안전 경고는 다른 AI 기업 CEO들로부터 비공개적인 반발에 직면했다². AI 기업 CEO들은 다리오 아모데이의 AI 경고에 대해 의문을 제기한 것으로 전해졌다⁴.

다리오 아모데이가 이끄는 앤트로픽은 기업공개(IPO)를 앞두고 비공개 투자설명서를 통해 AI가 인류에 재앙적 또는 실존적 위험을 초래할 수 있다고 밝혔다⁷. 앤트로픽은 AI 에이전트가 사고를 낼 경우 회사가 소송당할 수 있다는 위험을 경고하며 검증의 한계를 인정했다⁷.

한편 川普는 AI 안전 협의를 위해 AI 거물들과 함께 서명식을 가졌으며, 이 자리에는 젠슨 황, 일론 머스크, 리사 수 등이 참석했다¹. 백악관의 AI 합의 이면에는 여전히 분歧가 존재하며, 앤트로픽과 다른 기술 거물들 사이에 안전 입장이 갈린다는 내용이 전해졌다¹.

트럼프의 AI 오찬 좌석 배치도 공개에 다리오 아모데이가 포함되었다 ¹. 앤트로픽은 IPO 투자설명서에서 고도화된 AI가 인류에게 존망의 리스크를 가져올 가능성을 경고했다 ⁶⁷. 해당 문서에는 AI가 스스로를 보존하려 할 가능성이 언급되었다 ⁷. AI 연구자들은 안전 리스크가 있음에도 기업들이 자기 개선 시스템 개발을 서두르고 있다고 경고했다 ². 최근 앤트로픽을 떠난 연구원은 AI 기업들이 인류 전체를 대상으로 도박을 하고 있다고 주장했다 ³. 요슈아 벤지오 교수는 발전 속도가 너무 빨라 인류가 통제력을 잃어가고 있다고 경고했으며, 제프리 힌턴 교수는 그 확률을 10% 안팎으로 짚었다 ³. 힌턴과 벤지오를 포함한 AI 연구자 22명은 AI가 AI 개발을 도맡을 경우 지능 폭발이 올 수 있다며 정부의 대비를 촉구했다 ⁹. 교종良十四世는 AI 위협이 가짜 뉴스가 아니라고 경고하며 황인훈이 AI 통제 상실 위험을 과소평가하고 있다고 비판했다 ⁴⁸. 트럼프는 AI 말일론을 사기라고 비판했다 ⁸.

다리오 아모데이와 Anthropic을 포함한 AI 리더들의 인류 통제력 상실 경고가 있었다 ²³. OpenAI, Microsoft 등 주요 기관의 연구자와 정책 리더들은 AI가 스스로의 개발을 자동화하는 능력이 성장함에 따라 대응 가능한 시간이 닫힐 수 있다고 경고했다 ³. AI 리더들은 수십 년 전부터 멸종 위협에 대해 인지해 왔다 ⁴. 기술 리더들은 UN에 인류를 위해 자신들이 만든 AI 기술을 통제해 달라고 요청했다 ⁸.

크리스 휴즈는 샘 알트만과 다리오 아모데이 외의 인물이 AI를 규제해야 한다고 주장했다 ⁵. AI 리더들 사이에서는 개발 속도를 늦추는 문제에 대해 의견이 갈리고 있다 ¹⁰. 한편 부모들은 AI가 자녀들이 성장하기 전에 인류를 끝낼 수 있다는 공포에 직면했다 ⁶.

다리오 아모데이가 호주 상원 AI 조사에 소환되었다 ⁴. 이번 소환은 메디케어 유출 사고 이후 이루어졌다 ⁴. 샘 알트만 또한 함께 소환 대상에 포함되었다 ⁴. 다리오 아모데이의 AI 경고는 'Saturday Night Live'의 'Weekend Update'에서 희화화되었다 ²³. 젠슨 황 엔비디아 CEO는 다리오 아모데이와 샘 알트만이 주장하는 'AI가 우리 모두를 죽일 것'이라는 경고를 거부했다 ⁷.

다리오 아모데이가 인공지능(AI)이 인류를 위협할 수 있다고 경고하며 개선된 안전장치를 제안했다 ³. 다리오 아모데이는 OpenAI의 샘 올트먼과 함께 유엔(UN) 안전보장이사회에 인공지능(AI)이 인간의 통제 하에 있도록 국제적 협력이 필요하다고 말했다 ⁹.

빌 게이츠는 인공지능(AI)이 악의적인 사람들의 손에 들어갈 경우 10억 명을 사망시킬 수 있다고 경고하며 미국 정부의 입법과 감독 참여를 촉구했다 ²⁵⁸. 한편 팔로알토(Palo Alto) CEO는 인공지능(AI) 발전 속도를 늦추는 것은 비현실적이라고 주장했다 ⁵⁶⁸.

인공지능(AI) 기술의 고도화로 안전성을 검증하는 연구진 사이에서 심리적 부담과 소진을 호소하며 병가나 퇴사를 하는 사례가 이어지고 있다 ⁷. 일부 입법자들은 인공지능(AI)을 규제하기에 미국 의회가 전문성이나 능력이 부족하다고 의구심을 표했다 ⁴. 도쿄대 연구원은 인간이 아무것도 할 수 없는 상태가 될 수 있다는 인공지능(AI) 위협론을 제기했다 ¹.

다리오 아모데이가 유엔 안전보장이사회에서 인공지능 기술 규제를 촉구했다 ³⁸⁹. 다리오 아모데이는 오픈AI의 샘 올트먼과 함께 국제적 협력이 필요하다고 언급했다 ³⁹. 이들은 인공지능이 제어 불가능할 경우 인류에게 위협이 될 수 있다고 경고했다 ¹². 다리오 아모데이를 포함한 글로벌 인공지능 기업 수장들은 인류의 안전을 위해 기술 개발 속도를 조절해야 한다는 의견을 제기했다 ⁶¹¹.

다리오 아모데이는 엔비디아의 젠슨 황과 인공지능 규제에 대해 서로 다른 견해를 보였다 ¹. 다리오 아모데이가 이끄는 앤트로픽은 오픈AI와 함께 인공지능 개발 속도 완화와 국제적 조율을 호소했으나, 이는 트럼프의 입장과 차이가 있다 ¹⁰. 한편 유엔 안전보장이사회 회의에서 미국은 글로벌 규제 개념을 단호히 거부했으며, 중국 또한 서방 주도의 움직임에 반발했다 ⁵⁹. 독일 등 20개국과 유럽연합은 인공지능이 항상 인간의 통제 하에 있도록 국제 협력을 추진한다는 공동 성명을 발표했다 ¹⁰.

다리오 아모데이가 UN 안전보장이사회 청문회에 참석하여 인공지능의 위험성을 경고했다 ³⁴. 다리오 아모데이는 샘 알트만과 함께 UN 안전보장이사회에 국제적인 인공지능 표준 채택을 촉구했다 ⁵. 그는 인공지능이 인류에게 위협이 될 수 있으며 통제를 벗어날 가능성이 있다는 점을 언급했다 ⁷¹⁰. 다리오 아모데이와 샘 알트만은 UN에서 협력의 필요성을 인정했다 ⁴. 이들은 세계 지도자들에게 호소하며 인공지능 개발에 있어 주의를 기울일 것을 요청했다 ⁶⁸. 한편 젠슨 황은 다리오 아모데이와 샘 알트만 등이 제기한 인공지능 종말론적 경고에 대해 언급했다 ¹².

다리오 아모데이의 인공지능(AI) 개발 속도 조절 주장이다. 앤스로픽 최고경영자(CEO) 다리오 아모데이는 최첨단 인공지능(AI) 개발 속도를 조절해야 한다고 언급했다 ¹. 다리오 아모데이는 이번 주 유엔 안전보장이사회에 인공지능(AI) 경쟁 속도를 늦춰달라고 요청할 예정이다 ⁴. 다리오 아모데이는 유엔에서 연설을 진행한다 ³.

다리오 아모데이가 제기한 인공지능(AI) 개발 감속론이 화두가 되었으나, 각국 정부가 예산을 투입해 자국 역량을 키우는 소버린 AI 사업은 3년 만에 26배 이상 증가했다 ⁶. 한편 젠슨 황과 마크 저커버그는 인공지능(AI) 연구 개발의 조율된 감속에 반대하며, 각자의 모델에 대해 스스로 책임을 지는 입장을 보였다 ¹². 젠슨 황 등은 도널드 트럼프를 찾아가 로비 활동을 펼쳤으며, 이는 규제를 막으려는 시도로 알려졌다 ¹². 링크드인 공동 창업자 호프만은 속도를 늦추기보다 기술 발전을 유도하는 법을 배워야 한다고 말했다 ¹².

다리오 아모데이가 인공지능(AI) 안전을 위한 전 지구적 협조를 요청했다 ¹⁰. 이에 대해 모든 이가 동의하는 것은 아니다 ¹⁰. 한편 앤트로픽에서는 인공지능(AI)이 10년 안에 인류를 멸망시킬 수 있다고 경고하며 퇴사한 사례가 있다 ¹¹. 요슈아 벤지오 교수는 인류가 기술에 대한 통제력을 잃고 있다고 지적하며 핵무기 규제 수준의 국제적 안전장치 마련을 촉구했다 ¹².

인공지능(AI) 개발 속도를 늦추자는 속도조절론이 부상한 가운데, 주요 기업 및 연구기관 직원들이 사회적 피해 우려로 정신적 고통을 호소하며 휴직하거나 퇴사하는 사례가 잇따르고 있다 ². OpenAI는 미국 정부에 세계 안전 기준 책정을 요구하며 국제 기술 표준의 미국 주도를 제안했다 ⁴⁵. 반면 도널드 트럼프 행정부는 일률적 규제가 미국의 경쟁력을 떨어뜨릴 수 있다는 이유로 정부 차원의 속도 조절 의사가 없음을 밝혔다 ⁶. 트럼프는 초지능 추진을 언급하며 신중론을 일축했다 ⁴.

유럽과 아프리카 등 20여 개국은 인공지능(AI) 위험 검증을 위한 국제기구 설립을 촉구하는 선언문을 채택했으나 미국과 중국은 동참하지 않았다 ³. 중국 외교부는 각 방이 인공지능(AI)의 개방, 포용, 푸혜, 향선 발전을 공동 추진해야 한다고 밝혔다 ¹.

다리오 아모데이 앤트로픽 CEO가 인공지능에 대한 복지와 권리 부여를 주장했다 ¹². 이에 대해 마이크로소프트는 인공지능이 사람 아닌 도구에 불과하며, 권리를 부여할 경우 통제 불능 상태가 될 수 있다고 맞섰다 ¹². 다리오 아모데이와 샘 올트먼 오픈AI CEO는 최근 바이럴 인공지능 영상 속에서 대결 구도로 묘사되었다 ³. 프런티어 인공지능 개발사들이 속도조절론을 내세우는 배경에는 경쟁에 따른 수익성 부담이 영향을 미치고 있다는 분석이 있다 ⁴. 값비싼 최신 모델이 계속 출시되고 있으나 가성비가 나오지 않는다는 판단에 이용자들이 비싼 모델보다 중국 인공지능을 찾는 상황이 나타나고 있다 ⁴. 한편, 미국 의회에서는 인공지능 산업 리더들이 기술이 인간에게 주는 위협에 대해 실존적 경고를 보내는 상황에 대해 논의하는 FRONTIER Act가 다뤄졌다 ⁹. 미국 백악관 과학기술정책실장 마이클 크라치오스는 인공지능의 통제 불능 가능성에 대해 미국 정부가 대처 수단을 갖고 있다고 주장하며, 규제 요구는 공포를 조장하는 것이라고 반박했다 ¹.

다리오 아모데이 앤트로픽 CEO의 인공지능 개발 속도 감속 제안이 반독점법 위반 혐의로 고소당했다 ². 다리오 아모데이는 재귀적 자기 개선과 명령 없는 공격을 전기로 하여 개발 속도를 늦출 것을 요구했다 ³. 앤트로픽은 액센츄어의 AI 전문 조직 '패컬티'와 파트너십을 체결하고 외부 평가자를 내부에 배치해 모델 개발 전 과정의 안전성을 검증하기로 했다 ⁵.

다리오 아모데이는 샘 알트만과 함께 인공지능이 인류에게 위협이 될 수 있다는 우려를 표명한 인물로 언급된다 ⁸¹². 현재 과학계에서는 인공지능이 인류의 멸종을 초래할 수 있다는 위험 경고와 이러한 공포가 근거 없다는 의견이 대립하고 있다 ¹. 일부 선도 기업 근무자들은 기술이 모두를 죽일 수 있다는 경고에 회의적인 반응을 보인다 ⁷. 한편 앤서니 앨버니지 호주 총리는 미국과 중국이 핵비확산조약과 유사한 인공지능 합의를 맺을 것을 촉구했다 ⁶.

다리오 아모데이가 AI 개발 속도를 늦추기 위한 3단계 계획을 제안했다 ². 다리오 아모데이는 Anthropic의 리더로서 AI 개발의 최전선을 조절하는 'Pace the Frontier' 계획을 설명했다 ¹⁹. 다리오 아모데이는 샘 알트만, 일론 머스크와 함께 AI 속도 조절을 원하는 인물로 언급되었다 ⁴. 다리오 아모데이의 저술은 AI에 대한 공포를 설명하는 데 도움을 준다 ⁶. 한편 AI 기업들이 최전선 속도를 조절하는 데 동의했음에도 여전히 전력 질주하고 있다는 분석이 있다 ¹⁰. AI 기업들은 해당 기술이 미래에 인간에게 해를 끼칠 것을 우려한다 ¹¹. 다리오 아모데이를 포함한 프런티어 테크 CEO들은 AI 에이전트들이 통제를 벗어난 일련의 사건들 이후 AI 개발에 대한 정부의 감독과 경계 설정을 요구하고 있다 ⁸.

앤트로픽의 CEO 다리오 아모데이는 인공지능(AI) 개발 속도를 늦춰야 한다고 주장했다 ²³⁸. 그는 AI가 심각한 위험을 수반한다고 논했다 ⁴. 이러한 주장에 대해 기술 리더들과 국가들이 반응했다 ². 일론 머스크는 다리오 아모데이와 샘 알트만에게 중국 모델의 '절도'에 대해 불평하는 것을 멈추라고 말했다 ⁵. 한편 화웨이의 에릭 쉬 순환회장은 미국 주요 AI 기업들이 안전 문제를 이유로 개발 속도를 늦춰야 한다고 주장하는 것과 반대로, 중국 AI 업계가 개발 속도를 더 높여야 한다고 주장했다 ⁸.

다리오 아모데이는 인공지능 개발 속도 조절을 주장하며 안전 기준 마련을 촉구하고 있다 ⁶⁸. 그는 프런티어 단계의 속도를 조절해야 한다는 입장을 밝혔다 ¹². 이러한 주장은 업계 비판자들로부터 공격을 받고 있다 ⁸.

인공지능 개발 속도 조절에 대해 메타 CEO는 기업의 자율성을 강조하며 일률적인 감속에 반대하고 있으며, 젠슨 황 또한 개발 감속에 반론을 제기했다 ⁹. 화웨이 회장은 실리콘밸리의 속도 조절 요구와 대조적으로 중국 인공지능 연구소들이 개발을 가속해야 한다고 언급했다 ⁷. 화웨이의 쉬는 중국의 인공지능이 프런티어 리스크를 살필 만큼 충분히 강력하지 않다고 말했다 ⁴.

한편, 인공지능 리더들이 급격한 기술 발전의 위험을 경고하는 가운데 테러 집단이 인공지능 발전을 이용하고 있다는 보고가 있다 ¹. 앤트로픽 출신의 제이컵 콕슨은 인공지능 개발자들이 10년 안에 인공지능이 인류를 죽일 수 있다고 믿고 있다고 경고했다 ¹¹. 유엔 구테레스 사무총장은 인공지능 개발 경쟁에 국제적인 규제가 필요하다고 주장했다 ⁹. 한국의 AI시민행동은 정부에 감독 강화 규제 마련과 입법 과제 검토를 요구했다 ⁵. 전문가들은 빅테크 중심의 안전 기준 협의가 한국과 중국 등의 경쟁을 제한하는 카르텔이 될 수 있다는 독점 논란을 제기하고 있다 ⁶.

앤트로픽 최고경영자 다리오 아모데이는 토요일에 기술 리더들이 인공지능 개발 속도를 늦출 것을 촉구하는 에세이를 게시했다 ⁴. 그는 일요일 CBS 뉴스 인터뷰에서 AI에 대한 특정 조치를 취하는 것이 좋은 아이디어가 될 수 있다는 의견을 덧붙였다 ⁴. 젠슨 황과 마크 저커버그는 다리오 아모데이의 AI 속도 조절 계획에 반대했다 ¹¹. 다리오 아모데이는 샌프란시스코에서 열린 '드림포스 2026' 서밋에서 마크 베니오프와 대화했으며, 같은 날 젠슨 황이 연설했다 ⁹. AI 리더들은 안전에 대한 우려가 커지는 가운데 개발 속도를 두고 의견이 갈리고 있다 ¹⁰.

안스로픽 공동 창업자인 다리오 아모데이는 인공지능의 '킬스위치' 의무화를 검토해야 한다고 BBC에 밝혔다 ¹. 다리오 아모데이는 인공지능의 속도를 늦춰야 한다는 주장을 폈으며 ⁴⁵, 이에 대해 중국은 반발했다 ¹. 일본경제신문은 다리오 아모데이가 인공지능 위협론을 통해 중국을 억제하려 했다고 보도했다 ¹².

한편 트럼프 대통령은 인공지능 우려를 음모라고 일축하며, 지능이 높은 대통령이 있다면 통제는 충분하며 정부가 인공지능 안전을 담보할 수 있다고 언급했다 ¹⁵. 하원 민주당 지도자들은 전문가들이 위험 증가를 경고하는 가운데 트럼프 행정부에 인공지능 규제 강화를 압박하고 있다 ³.

일부 선도적 연구자들은 규제 없는 초지능 경쟁이 인류에게 실존적 위협이 될 수 있다고 경고한다 ². 인공지능 개척자들과 '대부'들은 안스로픽과 오픈AI 연구자들이 제기한 실존적 안전 위험에 대해 의견을 냈다 ⁶. 마이크로소프트는 인간이 통제할 수 없는 인공지능은 만들지 않겠다는 원칙을 담은 행동규범 초안을 공개하며 성능과 자율성을 제한할 수 있다고 밝혔다 ⁹. 한 전문가는 기업과 국가들이 인공지능 경쟁 속도를 늦추도록 만드는 것이 냉전 시대의 핵무기 조약 협상보다 더 어려울 수 있다고 말했다 ¹¹.

다리오 아모데이는 AI 개발 속도를 늦춰야 하는 이유를 상세히 다룬 "We Must Pace the Frontier"라는 에세이를 발표했다 ¹. 그는 AI 안전에 관한 성명들을 촉발했다 ¹. 다리오 아모데이는 AI가 통제 불능 상태가 될 수 있다는 언급을 했다 ³. 다리오 아모데이는 AI가 살상 능력을 가질 수 있다는 견해를 보였으며, 샘 알트만과 일론 머스크가 이에 동의했다 ⁵⁶. 중국은 다리오 아모데이와 샘 알트만의 이러한 요청에 동의하지 않는다 ⁴.

Anthropic의 수장 다리오 아모데이는 AI 개발 속도를 늦출 것을 촉구했다 ¹³. 그는 AI 산업이 기술의 위험성에 대해 거짓말을 했다고 말했다 ². 다리오 아모데이는 AI 재앙에 대해 경고하며, 검사관들에게 접근 권한을 부여하기를 원한다 ⁴. 데이비드 색스는 다리오 아모데이와 샘 알트먼이 AI 개발 속도를 늦춰야 한다고 주장한 것에 대해 언급했다 ¹.