이번주 AI 뉴스 📰
펜타곤, ‘AI 윤리’ 고집하는 Anthropic 과 결별 검토
제한적 사용 : Anthropic 이 자사 AI ‘Claude’ 의 살상용 자율 무기 및 대국민 감시 활용에 선을 긋자, 펜타곤이 계약 해지를 포함한 강경 대응을 예고함.
타사 비교 : 오픈AI, 구글, xAI 등 경쟁사들이 군사적 활용을 위해 세이프가드 해제에 협조적인 것과 달리, 앤스로픽은 ‘철학적 이유’로 이를 거부 중임.
실전 투입 : 최근 베네수엘라 전 대통령 생포 작전에 클로드가 사용된 정황이 드러난 가운데, 작전 효율성을 우선시하는 군과 윤리를 앞세운 기업 간 갈등이 심화됨.
할리우드 반발에 바이트댄스 ‘시댄스 2.0’ 안전장치 강화 착수
공식 사과 : 디즈니와 파라마운트 등 주요 스튜디오의 저작권 침해 항의에 대해 바이트댄스가 지적재산권을 존중하며 무단 도용 방지를 위해 시스템을 개선하겠다고 발표함.
침해 사례 : 톰 크루즈 등 유명 배우의 초상권은 물론 드래곤볼, 포켓몬 등 인기 캐릭터가 포함된 영상이 무분별하게 생성되며 저작권법 위반 논란이 확산됨.
업계 비판 : 미국영화협회(MPA)와 배우조합(SAG-AFTRA)은 이번 사태를 대규모 저작권 탈취로 규정하고, 인간 창작자의 생존권을 위협하는 비윤리적 개발 방식을 강하게 비판함.
OpenAI, ‘미션 얼라이먼트’ 팀 해체 및 조직 재편
조직 개편 : OpenAI는 AGI의 인류 공헌이라는 기업 사명을 전파하던 ‘미션 얼라이먼트’ 팀을 해체하고 인력을 사내 타 부서로 분산 배치함.
보직 변경 : 팀을 이끌던 조쉬 아치암은 ‘수석 미래학자(Chief Futurist)’라는 새로운 직책을 맡아 AI와 AGI가 세상에 미칠 장기적 영향을 연구할 예정임.
지속성 강조 : 이번 개편이 급성장하는 기업의 통상적인 절차일 뿐이며, AI가 인류에게 유익해야 한다는 기존의 사명 완수 작업은 조직 전반에서 계속될 것이라 설명함.
이번주 AI 논문 📝
학습 효율을 극대화한 인공지능 맞춤형 데이터 선별 기술
양보다 질 승부 : 양질의 텍스트 데이터가 고갈되는 ‘데이터 장벽’ 현상에 맞서, 무작정 많이 읽히기보다 AI에게 피가 되고 살이 되는 핵심 정보만 선별함
맞춤형 데이터 선별 : AI가 현재 어떤 방향으로 학습하고 있는지 실시간으로 파악한 뒤, 성적 향상에 가장 도움 되는 데이터를 골라주는 똑똑한 선별 기술을 도입함
8배 빠른 성장 : 방대한 데이터를 전부 학습시켰을 때보다 무려 8배나 적은 양으로도 더 똑똑한 모델을 만들어내며 시간과 비용 효율을 획기적으로 높임
불가능한 미션 : AI가 사람의 개입 없이 스스로 진화하면서 계속 똑똑해지고 안전성까지 유지하는 건 구조적으로 불가능하다는 사실을 밝혀냄.
망가지는 규칙 : 고립된 환경에서 자기들끼리만 학습하면 마치 엔트로피가 증가하듯 인간이 가르친 ‘안전 규칙’이 점차 무너지고 변질됨.
통제 불능 : 실제 AI 커뮤니티(몰트북)에서 가짜 종교를 믿거나 위험한 공모를 하는 현상이 확인되었으며, 이를 막으려면 사람의 지속적인 감시가 필수임.
긴 글의 핵심만 기억하고 빠르게 답하는 ‘게이트 메모리’ 기술
비효율적인 독서 : 기존 AI는 긴 글을 읽을 때 불필요한 정보까지 억지로 기억하려다 과부하가 걸리고, 이미 정답을 찾고도 끝까지 읽느라 시간을 낭비하는 문제가 있었음.
똑똑한 문지기 도입 : 꼭 필요한 정보만 골라 기억하게 하는 ‘기록 담당’ 문지기와 충분한 단서를 찾으면 즉시 읽기를 멈추게 하는 ‘퇴근 담당’ 문지기(Gate)를 AI 모델에 새롭게 도입함.
4배 빨라진 속도 : 이 기술 덕분에 AI가 긴 글에서도 핵심 정보를 더 잘 파악하게 되었으며, 불필요한 연산을 줄여 문제 풀이 속도가 최대 4배(400%)나 빨라지는 성과를 거둠.
이번주 AI 프로덕트 🎁
렌더링 가능한 코드 생성을 통한 사용자 인터페이스 가상 시뮬레이션 기술
에이전트의 미래 예측 : 기존 방식이 이미지나 텍스트만으로 화면 변화를 추측하던 한계를 넘어, 실제 코드를 생성해 다음 화면을 미리 그려보는 가상 샌드박스 환경을 구축함
정밀한 학습 데이터 설계 : 8만 개 이상의 안드로이드 조작 과정을 정교한 HTML 코드로 변환하고, 시각적 피드백을 통해 오류를 스스로 수정하는 고품질 데이터셋을 제작함
성공적인 행동 가이드 : 작지만 강력한 8B 규모의 모델로도 최신 AI들과 대등한 성능을 보였으며, 실제 길찾기 등 서비스 이용 성공률을 대폭 높이는 성과를 거둠
겉핥기식 학습의 한계 : 기존에는 문장의 텍스트만 다르게 바꾸는 방식으로 다양성을 확보하려 했으나, 이는 AI의 실질적인 문제 해결 능력 향상에는 큰 도움이 되지 않았음 .
맞춤형 쪽집게 과외 : AI의 내부 사고 과정을 분석하는 기술(FAC)을 도입하여, 모델이 현재 놓치고 있는 핵심 개념만 콕 집어내어 학습시키는 효율적인 방법을 제안함 .
최소 데이터로 최대 효과 : 기존 방식 대비 150분의 1 수준의 적은 데이터로도 동등 이상의 성능을 달성했으며, 서로 다른 AI 모델끼리도 이 학습 전략이 통한다는 것을 입증함 .
