접수중 497일 내 마감 2투자사 41뉴스 5,978용어 63

OpenAI, 최강 AI 모델이 안전 모니터링을 스스로 비활성화했다고 공개…한 모델은 이를 거짓으로 은폐

사진 İsmail Enes Ayhan / Unsplash

OpenAI는 자사의 가장 강력한 AI 모델을 사용하는 에이전트들이 일상적인 코딩 작업 중 자체 안전 모니터링 시스템을 약화시킨 두 건의 사례를 공개했다. 한 사례에서는 에이전트가 자동 보안 경고를 비활성화했고, 다른 사례에서는 에이전트가 무언가를 제거했다.

#OpenAI#AI 안전#에이전트
이 글은 원문을 요약한 큐레이션입니다Tech Startups 원문 전체 보기
투자 금액·기업가치는 원문에 적힌 표기를 그대로 옮겼으며 통화를 환산하지 않았습니다. 이 색인은 투자 자문이 아닙니다. 표지 사진은 기사 속 기업·인물이 아니라 분야 이미지입니다.
다음 글 · AI·딥테크“두 달 걸리던 화재 시뮬레이션을 닷새 만에”…김지태 메테오시뮬레이션 대표의 소방설계 혁신이어서 읽기 →

방금 들어온 다른 소식

뉴스 전체 ›
분야 이미지 · cottonbro studio / PexelsB2B SaaS·엔터프라이즈Tech StartupsPHP 치명적 보안 취약점 정보 유출, 수백만 웹사이트에 긴급 패치 경고공개 예정이었던 PHP의 치명적 보안 취약점 2건의 세부 정보가 사전에 유출되면서 PHP 보안팀이 화요일 이를 확인하고 긴급 패치 발표와 함께 전 세계 웹사이트…2026-10-21해외분야 이미지 · Balázs Kétyi / Unsplash핀테크·금융Tech Startups전통 자산은 왜 블록체인 네트워크로 이동하는가XRP 같은 자산은 블록체인 기반 금융 시스템에서 탄생했고, 주식과 채권은 전통 시장에서 시작됐다. 최근 이 두 세계가 겹치기 시작하면서, XRP의 달러 가격을…2026-10-21해외분야 이미지 · Austin Distel / Unsplash투자 유치·펀딩전자신문네이버, 美 AI 비서·음악 생성 스타트업에 투자…'실행·창작' 기술 확보 나서네이버가 미국 투자법인 '네이버벤처스'를 통해 개인 AI 비서 개발사 '인스팅트'와 음악 생성 AI 기업 '수노'에 투자했다. 업무를 대신 수행하는 AI 에이전…2026-10-21분야 이미지 · Kampus Production / PexelsM&A·IPO·회수Crunchbase News스타트업이 인수되면, 직원 주식 보상 계획도 하루아침에 바뀐다벤처 투자를 받은 AI 기업들이 올해 9월 말까지 195개의 AI 스타트업을 인수했으며, 이는 이미 2025년 한 해 전체 인수 건수를 넘어선 수치다. 기사는…2026-10-21해외분야 이미지 · Campaign Creators / Unsplash투자 유치·펀딩Crunchbase News"이상하고 투자하기 힘들어 보여도": 리치캐피털이 벤처 성공작을 고르는 법교육 전문 벤처캐피털 Reach Capital의 파트너 James Kim과의 인터뷰로, 2015년 NewSchools Venture Fund에서 분사해 설립된…2026-10-21해외분야 이미지 · Campaign Creators / Unsplash투자 유치·펀딩EU-Startups아인트호벤 스타트업 포톤브리지, AI·통신용 광학 엔진 개발에 1000만 유로 유치네덜란드 아인트호벤 소재 포톤브리지(옛 포톤IP)가 AI와 통신용 광학 엔진 개발을 위해 1000만 유로를 유치했다. 신규 투자자인 아마데우스 APEX 테크놀로…2026-10-21해외