NEC가 대규모 언어 모델(LLM)의 환각(hallucination) 현상을 실시간으로 탐지할 수 있는 기술 애플리케이션을 개발했습니다. 이 혁신 기술은 AI가 생성한 결과물이 사실과 다르거나 허위인 경우를 식별하고 표시함으로써, 생성형 AI의 안전하고 보안적인 사용을 촉진하는 것을 목표로 합니다. 해당 기술은 AI 생성 콘텐츠의 신뢰도를 향상시키도록 설계되었습니다.
이번 개발은 생성형 AI의 광범위한 채택에 있어 중대한 과제인 허위 정보 및 사실 오류 가능성에 대한 해결책을 제시합니다. NEC의 기술은 실시간 탐지 메커니즘을 제공함으로써 AI 생성 콘텐츠의 신뢰성을 크게 향상시킬 수 있으며, 비즈니스, 연구 및 공공 정보 전달 분야에서 더욱 신뢰할 수 있는 애플리케이션의 길을 열어줄 것입니다. 이는 책임감 있는 AI 배포를 보장하는 데 있어 NEC를 핵심 플레이어로 자리매김하게 합니다.
NEC, 실시간 생성형 AI 환각 탐지 기술 개발
기술, 생성형 AI의 안전 및 보안 강화 목표
LLM 환각 현상 해결 및 신뢰할 수 있는 AI 결과물 촉진
이 기술은 AI 도입에 있어 전 세계적인 영향을 미칠 것이며, 특히 디지털 전환 및 AI 연구에 막대한 투자를 하고 있는 지역에서 더욱 두드러질 것입니다. 일본의 다국적 기업인 NEC의 이번 개발은 동아시아 기술 선도 기업들이 AI 안전 및 신뢰성에 점점 더 집중하고 있음을 보여줍니다.
기술, 생성형 AI의 안전 및 보안 강화 목표
LLM 환각 현상 해결 및 신뢰할 수 있는 AI 결과물 촉진
Sign in to save notes on signals.
로그인