광주과학기술원(GIST) 연구진이 환자의 유전자형을 분석해 개인 맞춤형 항암제 후보물질을 자동 생성하는 인공지능(AI) 모델을 세계 최초로 개발했다. 이번 연구는 기존 AI 모델의 한계를 획기적으로 극복하며, 삼중-음성 유방암 등 난치성 암 정밀 치료에 새로운 가능성을 제시했다.
G2D-Diff: 혁신적 성능의 개인 맞춤형 항암제 설계 AI GIST 전기전자컴퓨터공학과 남호정 교수 연구팀이 개발한 'G2D-Diff' 모델은 150만 개의 화학 구조와 120만 건의 약물 반응 데이터를 학습해 환자 개개인의 유전적 특성에 최적화된 새로운 항암제 후보물질을 생성할 수 있다. 
사진: 남호정 교수(왼쪽), 김현호 박사, 지스트 G2D-Diff는 텍스트-이미지 생성 AI와 유사한 방식으로 작동한다. '특정 암 유전자형에 매우 민감한 약물'이라는 조건을 입력하면, 그 조건에 맞는 항암제 분자 구조를 자동으로 생성하는 것이다. 이 모델은 ▲분자구조를 수치로 표현하는 '화학적 변분 오토인코더(Chemical VAE)' ▲입력 조건을 수치화하는 '조건 인코더' ▲조건에 맞는 새로운 분자 구조를 생성하는 '조건부 확산 모델'로 구성돼 있다.
IBM 최고 성능 모델보다 압도적 우수성 입증 G2D-Diff는 현존 최고 성능을 가진 IBM의 'PaccMannRL' 모델과 비교해 모든 성능 지표에서 압도적 우수성을 보였다. 특히 생성된 화합물이 입력된 유전자형 조건에 얼마나 잘 부합하는지 평가하는 '조건 적합성' 항목에서 약물 반응성 예측의 평균 오차율이 기존 모델 51%에서 1%로 획기적으로 개선됐다. 또한 실제 약물군과의 분포 유사성은 기존 모델보다 평균 35∼44% 더 높게 나타나 생성된 후보물질을 실제 신약으로 개발할 수 있을 정도로 탁월한 결과를 보였다. 이는 G2D-Diff가 단순히 기존 약물을 모방하는 수준을 넘어 완전히 새로운 치료제를 설계할 수 있음을 의미한다.
삼중-음성 유방암 실증 연구로 임상 가능성 확인 연구팀은 난치성 암의 대표 사례인 삼중-음성 유방암(TNBC)에 G2D-Diff를 적용해 실제 활용 가능성을 검증했다. 삼중-음성 유방암은 에스트로겐 수용체, 프로게스테론 수용체, HER2 단백질이 모두 음성으로 나타나 기존 호르몬 치료나 표적 치료가 효과를 내지 못해 예후가 좋지 않은 난치성 암이다. G2D-Diff로 생성한 후보물질들은 암세포 증식을 억제하는 핵심 단백질인 PI3K, HDAC, CDK 등을 정확히 표적으로 삼았으며, 기존 치료제와 전혀 다른 화학 구조를 가지면서도 동일한 치료 효과를 낼 수 있음을 확인했다. 컴퓨터 도킹 시뮬레이션을 통해 이들 분자가 표적 단백질에 효과적으로 결합할 수 있다는 점도 검증됐다.
어텐션 메커니즘으로 AI 블랙박스 해결 G2D-Diff의 또 다른 혁신은 어텐션 메커니즘을 활용한 '해석 가능성' 구현이다. 이 모델은 특정 유전자형에서 어떤 유전자나 생물학적 경로가 약물 설계에 핵심적으로 작용했는지를 설명할 수 있어, 기존 '블랙박스'형 AI의 한계를 극복하고 연구자와 의료진이 결과를 신뢰할 수 있도록 돕는다. 어텐션 메커니즘은 AI 모델이 입력 데이터에서 가장 관련성이 높은 부분에 우선순위를 부여하도록 하는 기술로, 생성된 분자가 왜 효과적인지를 유전자 및 생물학적 경로 수준에서 설명함으로써 치료제의 타당성을 뒷받침하는 과학적 근거까지 함께 제시할 수 있다. 
이미지: 'G2D-Diff ' 연구모델 개요, 지스트 신약 개발 패러다임 변화와 미래 전망 이번 연구 성과는 국제 학술지 '네이처 커뮤니케이션즈' 7월 1일자에 게재됐으며, 과학기술정보통신부와 한국연구재단의 중견연구자지원사업, 보건복지부·과기정통부의 K-MELLODDY 프로젝트, 미국 NIH의 Bridge2AI 프로그램 등의 지원을 받아 수행됐다. 제1저자인 김현호 박사(현 국가독성과학연구소 선임연구원)는 "G2D-Diff는 신약 개발의 가장 어려운 초기 후보물질 탐색 단계의 효율성을 크게 높일 수 있어 개발 기간 단축과 비용 절감에 기여할 것"이라고 강조했다. 남호정 교수는 "AI가 단순히 기존 약물을 모방하는 데 그치지 않고, 환자 개개인의 유전적 특성을 분석해 그에 최적화된 완전히 새로운 치료제를 설계할 수 있음을 보여준 획기적인 연구 성과"라며 "AI 기술이 난치성 암 환자들에게 새로운 희망을 제공할 수 있을 것으로 기대한다"고 밝혔다.
글로벌 항암제 개발 경쟁에서 한국의 위상 강화 최근 글로벌 제약업계는 항체-약물 접합체(ADC) 등 차세대 항암제 개발에 대규모 투자를 쏟아붓고 있다. MSD는 지난해 다이이찌산쿄와 ADC 기반 항암제 3종에 대해 최대 220억 달러 규모의 개발·상용화 계약을 체결하는 등 경쟁이 치열하다. 또한 서울대병원도 생성형 AI와 생물정보학(BI)을 활용해 삼중음성유방암과 췌장암을 대상으로 한 방사성 리간드 치료제 개발에 5년간 150억원을 투입하는 프로젝트를 추진하고 있어, 한국의 AI 기반 항암제 개발 역량이 크게 강화되고 있다. 이런 가운데 GIST의 G2D-Diff 개발은 한국이 AI 기반 정밀의료 분야에서 글로벌 경쟁력을 확보할 수 있는 핵심 기술로 평가받고 있다. 특히 환자별 유전자 맞춤형 치료가 가능한 AI 시스템을 세계 최초로 구현함으로써, 향후 정밀의료 시대를 선도할 수 있는 기반을 마련했다는 의미가 크다. GIST는 앞으로도 AI 기반 혁신기술을 통해 정밀의료 및 바이오헬스 분야의 글로벌 경쟁력을 강화할 계획이라고 밝혔다. G2D-Diff가 실제 임상현장에 적용되면 난치성 암 환자들의 치료 성공률을 획기적으로 높이고, 개인 맞춤형 정밀의료의 새로운 지평을 열 것으로 전망된다.
| 
광주과학기술원(GIST) 연구진이 환자의 유전자형을 분석해 개인 맞춤형 항암제 후보물질을 자동 생성하는 인공지능(AI) 모델을 세계 최초로 개발했다. 이번 연구는 기존 AI 모델의 한계를 획기적으로 극복하며, 삼중-음성 유방암 등 난치성 암 정밀 치료에 새로운 가능성을 제시했다.
G2D-Diff: 혁신적 성능의 개인 맞춤형 항암제 설계 AI
GIST 전기전자컴퓨터공학과 남호정 교수 연구팀이 개발한 'G2D-Diff' 모델은 150만 개의 화학 구조와 120만 건의 약물 반응 데이터를 학습해 환자 개개인의 유전적 특성에 최적화된 새로운 항암제 후보물질을 생성할 수 있다.
사진: 남호정 교수(왼쪽), 김현호 박사, 지스트
G2D-Diff는 텍스트-이미지 생성 AI와 유사한 방식으로 작동한다. '특정 암 유전자형에 매우 민감한 약물'이라는 조건을 입력하면, 그 조건에 맞는 항암제 분자 구조를 자동으로 생성하는 것이다. 이 모델은 ▲분자구조를 수치로 표현하는 '화학적 변분 오토인코더(Chemical VAE)' ▲입력 조건을 수치화하는 '조건 인코더' ▲조건에 맞는 새로운 분자 구조를 생성하는 '조건부 확산 모델'로 구성돼 있다.
IBM 최고 성능 모델보다 압도적 우수성 입증
G2D-Diff는 현존 최고 성능을 가진 IBM의 'PaccMannRL' 모델과 비교해 모든 성능 지표에서 압도적 우수성을 보였다. 특히 생성된 화합물이 입력된 유전자형 조건에 얼마나 잘 부합하는지 평가하는 '조건 적합성' 항목에서 약물 반응성 예측의 평균 오차율이 기존 모델 51%에서 1%로 획기적으로 개선됐다.
또한 실제 약물군과의 분포 유사성은 기존 모델보다 평균 35∼44% 더 높게 나타나 생성된 후보물질을 실제 신약으로 개발할 수 있을 정도로 탁월한 결과를 보였다. 이는 G2D-Diff가 단순히 기존 약물을 모방하는 수준을 넘어 완전히 새로운 치료제를 설계할 수 있음을 의미한다.
삼중-음성 유방암 실증 연구로 임상 가능성 확인
연구팀은 난치성 암의 대표 사례인 삼중-음성 유방암(TNBC)에 G2D-Diff를 적용해 실제 활용 가능성을 검증했다. 삼중-음성 유방암은 에스트로겐 수용체, 프로게스테론 수용체, HER2 단백질이 모두 음성으로 나타나 기존 호르몬 치료나 표적 치료가 효과를 내지 못해 예후가 좋지 않은 난치성 암이다.
G2D-Diff로 생성한 후보물질들은 암세포 증식을 억제하는 핵심 단백질인 PI3K, HDAC, CDK 등을 정확히 표적으로 삼았으며, 기존 치료제와 전혀 다른 화학 구조를 가지면서도 동일한 치료 효과를 낼 수 있음을 확인했다. 컴퓨터 도킹 시뮬레이션을 통해 이들 분자가 표적 단백질에 효과적으로 결합할 수 있다는 점도 검증됐다.
어텐션 메커니즘으로 AI 블랙박스 해결
G2D-Diff의 또 다른 혁신은 어텐션 메커니즘을 활용한 '해석 가능성' 구현이다. 이 모델은 특정 유전자형에서 어떤 유전자나 생물학적 경로가 약물 설계에 핵심적으로 작용했는지를 설명할 수 있어, 기존 '블랙박스'형 AI의 한계를 극복하고 연구자와 의료진이 결과를 신뢰할 수 있도록 돕는다.
어텐션 메커니즘은 AI 모델이 입력 데이터에서 가장 관련성이 높은 부분에 우선순위를 부여하도록 하는 기술로, 생성된 분자가 왜 효과적인지를 유전자 및 생물학적 경로 수준에서 설명함으로써 치료제의 타당성을 뒷받침하는 과학적 근거까지 함께 제시할 수 있다.
이미지: 'G2D-Diff ' 연구모델 개요, 지스트
신약 개발 패러다임 변화와 미래 전망
이번 연구 성과는 국제 학술지 '네이처 커뮤니케이션즈' 7월 1일자에 게재됐으며, 과학기술정보통신부와 한국연구재단의 중견연구자지원사업, 보건복지부·과기정통부의 K-MELLODDY 프로젝트, 미국 NIH의 Bridge2AI 프로그램 등의 지원을 받아 수행됐다.
제1저자인 김현호 박사(현 국가독성과학연구소 선임연구원)는 "G2D-Diff는 신약 개발의 가장 어려운 초기 후보물질 탐색 단계의 효율성을 크게 높일 수 있어 개발 기간 단축과 비용 절감에 기여할 것"이라고 강조했다.
남호정 교수는 "AI가 단순히 기존 약물을 모방하는 데 그치지 않고, 환자 개개인의 유전적 특성을 분석해 그에 최적화된 완전히 새로운 치료제를 설계할 수 있음을 보여준 획기적인 연구 성과"라며 "AI 기술이 난치성 암 환자들에게 새로운 희망을 제공할 수 있을 것으로 기대한다"고 밝혔다.
글로벌 항암제 개발 경쟁에서 한국의 위상 강화
최근 글로벌 제약업계는 항체-약물 접합체(ADC) 등 차세대 항암제 개발에 대규모 투자를 쏟아붓고 있다. MSD는 지난해 다이이찌산쿄와 ADC 기반 항암제 3종에 대해 최대 220억 달러 규모의 개발·상용화 계약을 체결하는 등 경쟁이 치열하다.
또한 서울대병원도 생성형 AI와 생물정보학(BI)을 활용해 삼중음성유방암과 췌장암을 대상으로 한 방사성 리간드 치료제 개발에 5년간 150억원을 투입하는 프로젝트를 추진하고 있어, 한국의 AI 기반 항암제 개발 역량이 크게 강화되고 있다.
이런 가운데 GIST의 G2D-Diff 개발은 한국이 AI 기반 정밀의료 분야에서 글로벌 경쟁력을 확보할 수 있는 핵심 기술로 평가받고 있다. 특히 환자별 유전자 맞춤형 치료가 가능한 AI 시스템을 세계 최초로 구현함으로써, 향후 정밀의료 시대를 선도할 수 있는 기반을 마련했다는 의미가 크다.
GIST는 앞으로도 AI 기반 혁신기술을 통해 정밀의료 및 바이오헬스 분야의 글로벌 경쟁력을 강화할 계획이라고 밝혔다. G2D-Diff가 실제 임상현장에 적용되면 난치성 암 환자들의 치료 성공률을 획기적으로 높이고, 개인 맞춤형 정밀의료의 새로운 지평을 열 것으로 전망된다.