Main Track 2편·Findings 3편 채택… 거대언어모델(LLM) 검증·사전학습·멀티모달 안전성 전방위 연구 결실

기존 LoRA 변형 기법의 재현성 한계 규명부터 VLM 환각(Hallucination) 억제 디코더 개발까지 혁신적 성과 잇달아

지방 명문사학의 AI 연구 역량 세계 무대에 입증… 글로벌 인공지능 신뢰성 연구 선도

세명대학교 AI컴퓨터학부 이수안 교수 연구팀(데이터지능 연구실, DILab)이 아시아·태평양 자연어처리 분야 최고 권위 국제학술대회인 ‘AACL-IJCNLP 2026’에 총 5편의 논문(Main Track 2편, Findings 3편)을 동시에 게재하는 쾌거를 거뒀다.AACL-IJCNLP는 국제자연어처리학회(ACL) 산하의 대표적인 최상위 학술대회로, 자연어처리(NLP) 및 생성형 AI 분야의 엄격한 동료 평가를 거친 최첨단 연구들이 발표된다. 단일 연구실에서 정규 세션인 Main Track 2편을 포함해 총 5편의 논문을 한 학회에 대거 채택시킨 것은 국내 유수 연구팀과 비교해도 매우 이례적인 성과로, 세명대 DILab의 연구 수월성을 전 세계에 각인시켰다.채택된 연구들은 ▲LLM 미세조정(PEFT) 기법의 재현성 통계 감사 ▲과학적 가정 추론 벤치마크의 유효성 검증 ▲잠재 사고(Latent Thought) 사전학습 필터링의 오류 진단 ▲리 브래킷(Lie Bracket)을 통한 층간 협력 구조 규명 ▲시각-언어 모델(VLM) 환각 완화 디코더 개발 등 인공지능의 신뢰성과 구조적 해석 가능성을 아우르는 핵심 난제를 정밀하게 규명했다.

[Main Track 1] LoRA 변형 기법의 재현성 결함 규명 및 안정성 예측 지표 제시

논문명: Auditing PEFT Claims: A Stability Probe Unifying Three LoRA-Variant Fragility Patterns

저자: 이수안 교수(제1저자), 김재성 학부생(공동저자)

기존 파라미터 효율적 미세조정(PEFT) 분야에서 DoRA, PiSSA, AdaLoRA, rsLoRA 등 LoRA의 변형 알고리즘들이 제시한 성능 개선 주장이 다중 시드(Multi-seed) 및 짝지은 통계 검정 환경에서 대부분 성립하지 않는다는 사실을 체계적으로 입증했다. 엄격한 통계적 보정을 거친 결과 15개 검증 항목 중 단 2개만 지지되었으며, 심지어 4개 항목은 성능이 역전되었다. 연구팀은 어댑터의 유효 학습률 지표가 학습 붕괴를 예측하는 핵심 안정성 경계임을 규명하고, PEFT 연구의 엄밀한 평가 표준 가이드라인을 새롭게 제시했다.

[Main Track 2] LLM 과학 추론 평가의 맹점 검증과 ‘벤치마크 감사 키트’ 개발

논문명: Memorization or Extraction? Auditing LLM-Based Recovery of Scientific Assumptions

저자: 이수안 교수(제1저자), 김재성 학부생(공동저자)

LLM이 학술 텍스트를 읽고 과학적 패러다임 가정을 추출하는 능력을 평가하는 벤치마크들이 실제로는 본문을 인과적으로 이해하는 것이 아니라, 사전학습 단계의 단순 암기(Memorization)에 의존하고 있음을 밝혀냈다. 본문 없이 학문 분야 이름만 제시해도 평가를 통과하는 치명적 맹점을 진단했으며, 이를 손쉽게 진단·차단할 수 있는 5단계 '벤치마크 감사 키트(Audit Kit)'를 오픈소스로 공개해 연구계의 공정한 평가 척도를 마련했다.

[Findings 1] 직관적 데이터 필터의 역효과 규명: 잠재 사고(Latent Thought) 사전학습의 부트스트랩 오류

논문명: When Quality Filters Backfire: Agreement-Based Latent Filtering Hurts Bootstrap Pretraining

저자: 이수안 교수(제1저자), 김재성 학부생(공동저자)

모델 생성 '잠재 사고' 데이터를 사전학습에 활용할 때 널리 쓰이는 직관적 품질 필터(사전-사후 일치도 기반 필터)가 오히려 무작위 추출(Random Baseline)보다 언어모델의 성능(Perplexity)과 추론 능력을 심각하게 저하시킨다는 사실을 11억 개 파라미터 모델 실험을 통해 증명했다. 일치도가 높은 데이터만 선별할 경우 정보량이 적은 데이터만 남게 되는 원인을 분석하고, 향후 데이터 큐레이션 연구에서 단일 축 필터링의 위험성을 경고하는 방법론적 지표를 세웠다.

[Findings 2] 미분기하학 ‘리 브래킷(Lie Bracket)’으로 트랜스포머 레이어 간 협력 메커니즘 규명

논문명: Pretraining Builds Cooperation, Not Components: Tracking Inter-Layer Coordination via Lie Brackets

저자: 김재성 학부생(제1저자), 이수안 교수(교신저자)

트랜스포머 모델의 인접 레이어 연산을 벡터장(Vector Field)으로 재해석하고, 미분기하학의 ‘리 브래킷(Lie Bracket)’ 개념을 도입해 레이어 간 상호작용을 측정하는 새로운 척도를 개발했다. 기존 분석 방식에서 ‘중복(Redundant)’된다고 치부되었던 모델 중간 층들이 실제로는 야코비안 증폭(Jacobian Amplification)을 통해 긴밀하게 협력하고 있음을 입증하며, 언어모델 사전학습이 개별 부품 강화가 아닌 레이어 간 '협력 회로'를 구축하는 과정임을 기계론적으로 규명했다.

[Findings 3] 시각-언어 모델(VLM) 환각 억제를 위한 레짐 적응형 디코더 ‘SBC’ 개발

논문명: Mass-Tail SHAP Entropy: A Regime-Conditional Decoder for Vision-Language Model Hallucination

저자: 신재광 석사생(제1저자), 이수안 교수(교신저자)

이미지와 텍스트를 함께 이해하는 시각-언어 모델(VLM)이 잘못된 정보를 생성하는 환각(Hallucination) 현상을 억제하기 위해 샤플리 값(SHAP)의 엔트로피를 활용한 적응형 디코딩 프레임워크 ‘SBC(SHAP-Based Conditioning)’를 제안했다. 캡셔닝 태스크와 질의응답(QA) 태스크에서 환각이 발생하는 집중 양상이 정반대로 나타난다는 사실을 포착하여, 디코딩 시점에 상태를 자동 감지하고 맞춤형 개입을 수행함으로써 기존 성능의 저하 없이 VLM의 환각을 효과적으로 줄이는 데 성공했다.

이수안 교수는 “이번 AACL-IJCNLP 2026에서 달성한 5편 게재 성과는 데이터지능 연구실 학생들이 AI의 내부 동작 원리를 파헤치는 기초 해석 연구부터 기존 벤치마크와 학습 방법론의 결함을 바로잡는 실용적 신뢰성 연구까지 치열하게 매진한 결과”라며, “AI 시스템의 불투명성과 환각 문제를 해결하고 더 안전하며 신뢰할 수 있는 차세대 인공지능 원천기술을 확보할 수 있도록 연구에 더욱 박차를 가하겠다”고 소감을 밝혔다.

세명대학교 데이터지능 연구실(DILab)은 시계열 데이터 분석, 거대언어모델(LLM) 메커니즘 해석, 모델 경량화 및 신뢰성 평가 등 인공지능 및 데이터 과학 전 분야에 걸쳐 혁신적인 연구를 선도하고 있다.