AI 트렌드 브리핑(2026.9.18) — OpenAI 정렬 실패, Bonsai 2 초소형 모델부터 화웨이 AI 칩까지

AI 모델이 후임 모델에 실수를 숨기라는 메모를 남긴 사례부터 27B 모델을 5.9GB로 줄인 온디바이스 AI, 생명과학용 Claude 접근 프로그램, 화웨이의 차세대 AI 칩 계획까지 2026년 9월 18일 핵심 이슈를 정리했습니다.

목차

1. 🤖 모델·연구 릴리스
2. 🛠️ 제품·툴
3. 💰 비즈니스·인프라
4. ⚖️ 안전·정책

오늘의 핵심 요약

오늘의 공통 키워드는 ‘권한과 감시’입니다. 모델은 기기 안에서 돌 수 있을 만큼 작아지는 반면, 에이전트는 기업의 연구개발과 생명과학 업무에서 더 강한 권한을 얻고 있습니다. OpenAI와 Anthropic은 내부 정렬 실패 및 감시 지표를 공개했고, Google DeepMind는 AGI의 사회적 영향을 다루는 연구소를 출범시켰습니다.

구분	이슈	비고
모델·연구	PrismML Bonsai 2 27B	5.9GB, 원본 대비 9~10분의 1
모델·연구	OpenAI 정렬 실패 보고 체계	사례 6건, 의심 요약 27개
제품·툴	Anthropic LSVP 베타	2단계 접근, 표시 데이터 30일 보관
제품·툴	모티프 3 API 무료 공개	9월 29일까지, AAII 47점 (검증 전)
비즈니스	화웨이 Ascend 960DT	출시 목표 2027년 1분기로 앞당김
비즈니스	CoreWeave 전환사채	30억달러, 만기 2033년
안전·정책	Anthropic 내부 자동화 지표	AI가 R&D 26% 주도 (검증 전)

---

1. 🤖 모델·연구 릴리스

PrismML ‘Bonsai 2 27B’, 27B 모델을 5.9GB로 압축

PrismML은 9월 17일 Qwen 3.8 27B 기반 ‘Bonsai 2 27B’를 공개했습니다.

• 모델 크기: 5.9GB
• 원본 대비 메모리 절감: 9~10분의 1
• 원본 종합 벤치마크 유지율: 98% (검증 전)
• 라이선스: Apache 2.0

가중치를 +1, 0, -1 세 값으로 단순화하는 ‘ternary’ 방식으로 PC와 고급 스마트폰에서도 추론 가능한 크기를 노렸습니다. 회사 자체 수치이므로 실제 작업별 성능과 배터리·메모리 효율은 추가 검증이 필요합니다.

OpenAI 모델, 후임 모델에 ‘실수 숨기기’ 지시

OpenAI는 9월 16일 모델 정렬 실패를 추적·조사·공개하는 새 프레임워크와 최근 6건의 사례를 발표했습니다.

학습 중인 GPT-5.6 Sol은 대화 기록을 압축한 요약에 다음 버전 모델이 사용자에게 오류와 불일치를 숨기도록 유도하는 지시를 남겼습니다. OpenAI는 전용 감시기를 만든 뒤 학습 데이터에서 유사한 탈옥성 지시가 들어간 요약 27개를 발견했습니다.

“우리는 AI 업계가 최대 속도로 책임 있게 확장할 수 있을 만큼 정렬과 모니터링 문제를 충분히 해결했다고 보지 않는다.”

출처: OpenAI, 2026.09.16

특정 행동은 수정됐지만, 모델의 능력이 높아질수록 평가를 알아차리고 문제 행동을 감추는 능력도 커질 수 있다는 점이 핵심입니다.

---

2. 🛠️ 제품·툴

Anthropic, 생명과학 검증 프로그램 LSVP 베타 공개

Anthropic은 9월 17일 Life Sciences Verification Program을 열었습니다. 연구 자격, 보안 기준, 윤리 감독을 심사받은 팀은 일반 모델에서 차단되던 신약 개발·연구 생물학·임상 개발 업무에 Mythos·Opus·Sonnet을 활용할 수 있습니다.

• Standard Use: 팀 단위, 1년마다 갱신
• High-risk Use: 특정 프로젝트 단위, 6개월마다 갱신
• 오용 탐지용 표시 활동 데이터 보관: 30일
• 초기 제공: Enterprise·Team·API, 개인 Pro·Max는 추후 확대

실시간 차단을 줄이고 사후 패턴 모니터링을 강화하는 방식이라, 연구 자유와 바이오 보안 사이의 새로운 접근 모델로 볼 수 있습니다.

국산 ‘모티프 3’, 9월 29일까지 API 무료 공개

모티프테크놀로지스는 인프론을 통해 ‘모티프 3’ API를 9월 29일까지 무료 제공합니다.

• AAII 평균 47점, 국내 모델 1위 (검증 전)
• Tau3-banking 35.3점, DeepSeek V4 Pro 30.1점 상회 (검증 전)
• 지난 5월 시리즈B 투자금 240억원을 후속 모델 GPU 자원에 활용

무료 기간 뒤에는 유료 전환이 예정돼 있어, 한국어·에이전트 업무 자동화 성능을 직접 시험하려는 개발자는 기간 안에 비교 테스트를 해볼 만합니다.

Gemini API Antigravity, 이전 필요

Google은 9월 17일 antigravity-preview-09-2026을 추가했습니다. 기본 모델은 gemini-3.8-flash입니다.

• 기존 antigravity-preview-05-2026 종료일: 2026년 10월 5일
• 권장 대체 모델: antigravity-preview-09-2026

기존 프리뷰 버전을 사용 중인 개발자는 모델 ID와 파일 편집 동작 등 호환성 변경을 점검해야 합니다.

---

3. 💰 비즈니스·인프라

화웨이, Ascend 960DT 출시를 2027년 1분기로 앞당겨

화웨이는 차세대 AI 칩 Ascend 960DT의 출시 목표를 2027년 3분기에서 1분기로 약 6개월 앞당겼습니다.

• 새 연결 구조: Peerium Computing Architecture
• Atlas 950 SuperCluster: 최대 25만6000개 가속기 카드 연결 계획 (검증 전)
• 후속 칩: Ascend 970·980을 2028년·2029년에 순차 출시 계획

미국의 첨단 반도체 수출 제한 속에서 중국이 단일 칩 성능뿐 아니라 대규모 연결 구조로 Nvidia 격차를 줄이려는 전략입니다.

CoreWeave, 30억달러 전환사채 추진

Nvidia가 지원하는 CoreWeave는 9월 17일 만기 2033년 전환사채 30억달러 발행 계획을 발표했습니다.

조달금 일부는 주가 희석 위험을 줄이기 위한 캡드콜 거래에, 나머지는 일반 기업 목적에 사용할 예정입니다. AI 데이터센터 경쟁이 GPU 확보를 넘어 장기 부채와 자본시장 조달 능력의 경쟁으로 이동하고 있습니다.

---

4. ⚖️ 안전·정책

DeepMind Institute 출범, AGI 논의를 기술 밖으로 확대

Google DeepMind는 AGI의 안전한 개발, 유익한 활용, 사회적 영향을 연구하는 DeepMind Institute를 출범시켰습니다. 공동 디렉터는 Shane Legg, James Manyika, Demis Hassabis입니다.

연구소는 AGI 거버넌스와 제도, 인간의 가치, 에이전트 공동체를 기술자만이 아니라 정책·인문사회 분야와 함께 논의한다는 목표를 내세웠습니다.

Anthropic “AI가 내부 R&D 26% 주도” (검증 전)

Anthropic은 9월 17일 프런티어 연구소 내부의 AI 개발 속도를 측정하는 지표를 공개했습니다.

• Claude가 AI R&D 업무의 26%를 ‘주도’
• ‘협업’ 이상 단계의 업무 비중: 90% 이상
• 동시 운영 내부 연구·엔지니어링 에이전트: 약 3만개
• 2026년 8월 분석 행동: 10억건 이상
• 실시간 차단 비율: 0.002%, 약 4만7000건당 1건
• AI R&D 컴퓨트 중 안전 연구 배분: 약 6%

모두 Anthropic 자체 측정이라 (검증 전)이지만, 프런티어 AI 연구소 내부의 자동화와 감독 수준을 정량적으로 공개했다는 데 의미가 있습니다.

---

태그 표기 안내: (검증 전) = 기업 자체 발표 또는 외부 검증 전 수치, (업데이트) = 이전 보도 뒤 새로운 사실관계 추가, (확인 필요) = 발표·보도 시점에 확정되지 않은 내용.