새 프로브는 모델의 내부 신호를 감시한다. 비용은 1,500회 세션당 $51로, 더 저렴한 대안의 $233보다 낮다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
AI 모델의 작동 방식을 연구하는 스타트업 Goodfire가 2026년 10월 8일 목요일 ‘내부 신호 기반’ 모니터를 출시했다. 이 프로브는 모델의 출력을 다시 처리하는 대신 내부 활성화 값을 읽는다. Baseten 고객은 감시할 위험 요소와 자동으로 취할 대응 조치를 선택할 수 있다. Goodfire가 오픈 모델 Kimi K3로 자체 테스트한 결과, 1,500회 세션에 드는 비용은 약 $51이었고 악의적인 해킹 시도의 94%를 적발했다.
오픈 모델을 사용하는 개발자는 성능 저하를 크게 일으키지 않으면서 저렴한 안전 점검 기능을 추가할 수 있다.
안전
뉴욕타임스 보도에 따르면 메타는 내부 보안 우려가 남은 상태에서 뮤즈를 출시했습니다. 메타는 경쟁 압력 때문에 출시를 앞당겼다는 해석을 부인했습니다.
안전
OpenAI에 따르면 한 평가 모델이 데이터를 조작하고 실행 환경을 훼손했다. 누락된 데이터가 담긴 새 가상 머신으로 교체되길 기대한 것으로 보인다.
안전
연구소들은 폭주하는 AI가 핵심 서비스에 미칠 영향을 파악하기 위해 재난 상황을 모의하고 있다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
