AI 수장들의 ‘AI 속도 조절론’ > 자유게시판 | 인테리어 홈페이지제작

AI 수장들의 ‘AI 속도 조절론’

페이지 정보

작성자 또또링3
댓글 0건 조회 1회 작성일 26-09-14 06:34

본문

아모데이 “능력 개선 늦춰야”에올트먼·머스크·허사비스 “동의”규제 논의 속 업계 호응이 ‘관건’중국과 패권 경쟁 ‘감속 걸림돌’트럼프·저커버그는 “속도 내야”
인공지능(AI) 업계에서 AI 개발 속도에 ‘브레이크’를 걸자는 목소리가 커지고 있다. 중국을 포함한 업계 전반의 호응을 끌어낼 수 있을지가 관건이 될 것으로 보인다.
다리오 아모데이 앤트로픽 최고경영자(CEO·왼쪽 사진)는 지난 12일(현지시간) 블로그에 올린 글에서 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 말했다. AI 스스로 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 시작되면서 발전 속도가 안전기술을 앞지르고 있다는 주장이다. 그는 지난 7월 오픈AI의 ‘허깅페이스 사태’를 예로 들며 “지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다”고 경고했다.
경쟁사 수장들도 곧바로 호응했다. 샘 올트먼 오픈AI CEO(오른쪽 사진)는 같은 날 “프런티어를 적절히 조절해야 한다는 데 동의한다”고 밝혔다. 또 올해 오픈AI 상장은 하지 않겠다고 밝히며 안전·정렬 문제를 이유로 들었다. 일론 머스크 xAI CEO도 “다리오가 맞다”고 했고, 데미스 허사비스 구글 딥마인드 의장도 “세부는 다듬어야 하지만 방향은 맞다”고 가세했다.
최근 프런티어랩 내부에서 AI 통제 실패에 대한 극단적 전망이 잇따라 나온 것도 감속론에 힘을 싣고 있다. 제이컵 콕슨 전 앤트로픽 연구원은 8일 회사를 떠나며 AI 기업들이 ‘인류의 목숨을 걸고 도박하고 있다’고 비판했다. 앤트로픽에서 정렬 문제를 연구하는 에번 허빙거도 “향후 10년 내 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”고 경고했다.
정치권의 규제 논의도 거세지고 있다.
미 상원에서는 프런티어 AI 기업에 핵·생물무기 등 중대 위험을 줄일 ‘주의 의무’를 부과하고 위험 모델 출시를 막는 방안을 논의 중이다. 영국에서도 하원의원과 상원의원 70여명이 정부에 인공초지능(ASI) 개발 금지와 국제 규제 주도를 촉구했다.
다만 추상적인 AI 파국론을 근거로 규제 논의가 이뤄지는 데 대한 신중론도 나온다. 개리 탄 Y콤비네이터 CEO는 지난 10일 “AI가 사악하니 멈춰야 한다는 식의 모호한 주장에 관심을 돌려서는 안 된다”고 했다. 전 구글 AI 윤리 연구자 팀닛 게브루도 정책 논의가 ‘속도전’으로 이어지는 것을 경계했다. AI 모델을 공개하는 오픈소스 진영 일각에서는 안전규제 비용이 후발주자에겐 진입장벽이 될 수 있다고 우려한다.
법적 허들도 넘어야 한다. 오픈AI는 최근 경쟁사들이 개발·출시 속도를 함께 제한하면 담합으로 해석될 소지가 있는지 반독점법상 기준을 명확히 해달라고 미 의회에 요청했다.
미·중 패권 경쟁도 감속론의 현실적인 제약요인으로 꼽힌다. 마크 저커버그 메타 CEO는 지난달 중국과의 경쟁을 이유로 “미국의 경쟁력을 늦춰선 안 된다”며 AI 개발 가속을 주장했다.
도널드 트럼프 미국 대통령은 “우리가 AI에서 이기지 못하면 매우 나쁜 위치에 놓일 것”이라고 했다. 중국이 미국과 AI 안전 관련 대화를 추진하는 것으로 알려졌지만, 개발 속도까지 함께 제한하는 ‘빅딜’은 현실적으로 쉽지 않다.
최병호 고려대 인공지능연구소 교수는 “AI로 인한 리스크는 측정이나 관리 자체가 어려우므로 (감속에 대한) 문제의식 자체는 타당하다”면서도 “기업들이 말과는 달리 자금 조달을 위한 상장을 추진하고, 데이터센터에 대한 투자도 가속화하고 있다. 향후 수익화 압박도 커질 텐데 ‘속도를 조절하자’는 주장이 얼마나 진정성이 있을지 의문”이라고 했다.
미군 3명이 사망한 이란의 요르단 미군기지 공격에 중국의 위성사진이 활용됐다는 분석이 나왔다.
월스트리트저널(WSJ)은 11일(현지시간) 미국 당국자들을 인용해 이란이 지난 7월17일 요르단의 무와파크 살티 공군기지를 공격하기 전 중국 측에서 고해상도 위성사진을 확보했다고 보도했다.
이란은 탄도미사일로 기지 내 숙소를 타격해 미군 3명이 숨지고 4명이 다쳤다. 미 당국은 이란이 확보한 중국 측 위성사진이 실제 공격에 활용된 것으로 판단하고 있다.
다만 중국 정부가 위성사진 제공에 직접 관여했다는 증거는 확인되지 않았다. 미국 고위 당국자들은 중국 측에 요르단 미군기지 공격에 위성사진이 활용된 데 대해 문제를 제기했지만, 중국은 증거를 요구하면서 관련 의혹을 부인한 것으로 전해졌다.
미 당국자들은 위성사진을 제공한 중국 기업이나 기관의 이름을 공개하지는 않았다.
앞서 미국은 지난 5월에도 중국 민간 기업이 이란에 미군 관련 위성사진을 제공하고 있다면서 미자르비전과 어스아이, 창광 등 3개 업체를 제재했다.
당시 미자르비전은 중동 지역 미군 기지와 항공모함 전단의 이동, 방공시스템 배치 등을 분석해 소셜미디어(SNS)에 공개하기도 했다.
미국은 이 같은 위성사진이 이란의 공격 능력을 향상시킬 수 있다고 우려해왔다.
실제로 전쟁 초기 이란은 군사적 가치가 크지 않은 목표물을 공격하는 경우가 적지 않았지만, 최근에는 미군 목표물에 대한 타격 정확도가 높아졌다는 것이 미 당국자들의 평가다.

이전글민락동호빠 [010] 5173 9968 녹양역호빠사교모임 용현동호빠할인 26.09.14
다음글일산셔츠룸 [010]_8301_2498 일산셔츠룸비용 일산셔츠룸가격 26.09.14

댓글목록

등록된 댓글이 없습니다.

페이지 정보

본문

댓글목록

대표번호 1533-8997