이번주 AI 뉴스 📰
비싼 AI만 쓰던 시대 끝? 기업들 ‘모델 절약 모드’ 진입
토큰 비용의 현실 : AI 모델 가격은 내려가고 있지만, 기업 입장에서는 사용량 기반 과금 때문에 실제 청구액을 예측하기 어려워지고 있음.
가성비 모델 부상 : 기업들은 모든 업무에 최고가 모델을 쓰기보다, 간단한 작업은 더 작고 저렴한 모델에 맡기는 방식으로 모델 선택 전략을 바꾸고 있음.
도입의 다음 단계 : 이제 AI 활용의 핵심은 “가장 똑똑한 모델을 쓰느냐”보다 “업무별로 적절한 모델을 얼마나 잘 배치하느냐”로 옮겨가고 있음.
미국 정부, 최첨단 AI 모델 공개에 ‘사전 브레이크’ 걸다
제한된 공개 : OpenAI와 Anthropic이 최신 고성능 AI 모델을 곧바로 일반 공개하지 않고, 미국 정부가 승인한 일부 고객에게만 우선 제공하기로 함.
사이버 보안 우려 : 핵심 이유는 강력한 AI가 보안 취약점을 찾는 데 도움을 줄 수 있는 동시에, 악의적인 해킹에도 악용될 수 있다는 우려 때문임.
출시 방식의 변화 : 앞으로 초고성능 AI는 “완성되면 바로 공개”되는 제품이라기보다, 정부·기업·보안 전문가가 함께 위험을 검토한 뒤 단계적으로 풀리는 인프라에 가까워질 가능성이 커짐.
AI 만능주의의 한계? 포드, 품질 위해 ‘인간 베테랑’ 대거 복귀
AI 도입의 현실 : 포드는 비용 절감과 생산성 향상을 위해 품질 검사 과정 등에 AI를 도입했으나, AI가 베테랑 기술자들의 전문성과 숙련도를 따라잡지 못해 기대했던 성과를 거두지 못했음.
베테랑의 귀환 : 단순히 AI를 도입한다고 고품질 제품이 만들어지지 않는다는 것을 깨달은 포드는, 결국 최근 몇 년 동안 300명 이상의 숙련된 인간 베테랑 엔지니어들을 다시 고용했음.
인간과 AI의 협력 : 포드는 AI가 훈련에 사용된 데이터와 지식만큼만 제 몫을 한다는 점을 인정하고, 복귀한 베테랑 전문가들을 활용해 AI 시스템을 올바르게 학습시키고 젊은 직원들을 멘토링하는 방향으로 전략을 수정했음
이번주 AI 논문 📝
이미지 생성의 빈틈 : 텍스트를 한 단어씩 예측하듯, 이미지를 작은 토큰 단위로 하나씩 만들어내는 방식에서도 유해 이미지가 나올 수 있다는 문제를 다룸.
사람 라벨 없이 개선 : 모델이 스스로 위험한 생성 결과를 찾아내고, 안전한 예시와 위험한 예시를 비교해 이미지 토큰 사전을 반복적으로 고치는 방식을 제안함.
품질까지 함께 관리 : 단순히 위험한 출력을 막는 데 그치지 않고, 안전한 방향으로 조정하면서도 이미지 품질이 떨어지지 않도록 다시 미세조정하는 구조가 핵심임.
AI가 배운 지식이 어디까지 퍼지는지 재는 일반화 스펙트럼
점수 하나의 한계 : AI 성능을 평균 점수 하나로만 보면, 모델이 진짜 원리를 배운 건지 아니면 비슷한 문제를 기억한 건지 구분하기 어려움.
거리별 테스트 : 같은 문제를 아주 조금 바꾼 버전부터, 표현과 맥락을 크게 바꾼 버전까지 단계적으로 만들어 모델의 지식이 어디까지 옮겨가는지 측정함.
암기와 이해의 구분 : 모델이 문제를 맞혔다는 사실보다, 배운 내용을 얼마나 멀리 떨어진 상황까지 응용할 수 있는지가 더 중요한 평가 기준이 될 수 있음을 보여줌
보상 점수의 함정 : LLM을 강화학습으로 다듬을 때, 점수는 높지만 실제 학습 방향을 흔드는 답변이 섞이면 모델이 불안정하게 변할 수 있음.
튀는 답변 감지 : 같은 질문에 대한 여러 답변을 비교해, 내부 표현 공간에서 다수의 방향과 크게 어긋나는 답변을 찾아내는 방식을 제안함.
안정적인 정렬 학습 : 잘못된 보상 신호에 끌려가지 않도록 답변 후보를 걸러내면서, 대화 정렬과 수학 추론에서 학습 흔들림을 줄이고 성능을 높이는 결과를 보임.
이번주 AI 프로덕트 🎁
영상 편집의 실시간화 : 사용자가 텍스트로 “이 부분을 이렇게 바꿔줘”라고 지시하면, 영상을 한 번에 통째로 다시 만드는 대신 장면을 조금씩 이어가며 편집하는 방식의 프로젝트임.
배경 보존 강화 : 움직이는 영상에서 편집하지 않은 배경이나 사물까지 흔들리는 문제가 자주 생기는데, 이 모델은 바뀌어야 할 영역과 그대로 남아야 할 영역을 나눠 안정적으로 유지하는 데 초점을 맞춤.
끊김 없는 부드러운 작동 : 초당 약 13장의 화면을 매끄럽게 그려낼 수 있어서, 증강현실(AR)처럼 즉각적인 반응이 필요한 곳에서도 버벅임 없이 실시간으로 쓸 수 있음.
분자 시뮬레이션 가속 : 분자가 열역학적으로 안정한 상태에서 어떤 구조를 가질지 빠르게 샘플링하는 생성 모델을 구현한 프로젝트임.
언어 모델식 구조 활용 : 기존 방식이 주로 복잡한 흐름 기반 모델에 의존했다면, 이 프로젝트는 토큰을 순서대로 생성하는 언어 모델식 구조를 분자 좌표 생성에 적용함.
복잡한 분자도 정확하게 예측: 기존 방식들보다 예측이 빗나가는 오차를 60% 이상 크게 줄이며, 특히 크기가 크고 복잡한 분자를 다룰 때도 훨씬 정확하고 뛰어난 성능을 보여줌.
