연합뉴스

콕스웨이브, LLM 보안 취약점 연구 논문 국제학회 채택

입력 2025-06-12 09:07:24

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요





콕스웨이브

[콕스웨이브 제공]


(서울=연합뉴스) 김현수 기자 = 인공지능(AI) 제품 분석 플랫폼 '얼라인' 운영사인 콕스웨이브는 자사의 거대언어모델(LLM) 관련 취약점 발견 연구 논문이 국제자연어처리학회(ACL) 메인 콘퍼런스에 채택됐다고 12일 밝혔다.



이번 논문을 통해 대화형 AI 모델의 장문 맥락 처리 시 발생하는 구조적 보안 취약점을 발견했다고 콕스웨이브는 설명했다.


특히, 최근 AI 업계에서 주목하는 '맥락 길이 확장'이 예상치 못한 안전성 리스크를 동반하고, 무의미한 텍스트가 반복될 경우 모델의 안전장치를 우회할 수 있는 점을 확인했다고 덧붙였다.


이는 정교한 해킹 공격 없이도 안전 매커니즘을 무력화할 수 있다는 의미라고 콕스웨이브는 전했다.


김주원 콕스웨이브 대표는 "연구를 통해 확인된 안전성 검증 역량을 얼라인에 적극 반영해 안전하고 신뢰할 수 있는 생성형 AI 생태계 구축에 더욱 기여하겠다"고 말했다.


hyunsu@yna.co.kr



인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.

연합뉴스 콘텐츠 더보기

해당 콘텐츠 제공사로 이동합니다.

많이 본 최근 기사

관심 많은 기사

실시간 검색어

2026-11-17 09:00 업데이트