AI를 이해하는 두 개의 렌즈: 규칙과 데이터
인공지능이 사람처럼 사고하고 판단하기 위해서는 두 가지 접근 방식을 통해 바라봐야 한다. 하나는 방대한 데이터를 통해 세상을 경험하고 패턴을 발견하는 데이터 기반 접근이며, 다른 하나는 규칙과 논리를 통해 세상을 구조적으로 해석하는 규칙 기반 접근이다. 이 두 방식은 독립적으로 보일 수 있지만, 사실은 서로를 보완하며 인공지능이 더욱 깊고 정확한 판단을 내릴 수 있도록 돕는다. 이 두 렌즈를 이용하는 방식을 일컫는 뉴로심볼릭 AI는 이 두 접근 방식의 균형을 추구하며, 인간과 기계 간의 협업을 더욱 효과적으로 만들어 주는 새로운 지능의 시대를 열고 있다. 이 균형을 잃으면 온전한 AI전략을 짤 수 없게 된다.
이미지 출처: Copilot으로 생성
똑똑해질수록 횡설수설 해대는 AI
2025년 4월, 오픈AI는 신모델인 o4 mini와 o3를 출시했다. 많은 사람들이 모델의 숫자가 올라가면 AI가 더 똑똑해질 것이라 기대했다. 그러나 실제로 나타난 현상은 AI의 환각 현상이 증가한 것이다. 환각은 AI가 사실이 아닌 정보를 마치 진실처럼 생성하는 현상이다. 모델이 더욱 복잡한 추론을 시도할수록, 오히려 부정확한 정보를 생성하는 빈도가 높아질 수 있다. 예를 들어, 오픈AI는 o4 mini와 o3 모델이 이전 모델(o1)보다 환각률이 각각 3배, 2배 높다고 인정했다. 이는 AI가 복잡한 추론을 하더라도 그 정확도가 떨어질 수 있음을 시사한다.
또한, 성능 벤치마크에서는 높은 점수를 얻더라도 실제 응용에서는 혼란을 일으킬 수 있다는 점이 문제로 지적되었다. 특히, AI 모델들이 코드나 실제 작업에서 비현실적인 결과를 도출하는 사례가 많다. 강화 학습을 통해 성능이 개선되더라도, 초기에 학습된 지식이 왜곡되는 현상이 발생할 수 있다. AI는 데이터를 기반으로 학습하며, 이 학습이 ‘무엇이 옳은지’에 대한 규칙적 판단을 따르지 않기 때문에, 윤리적 규정이나 법규가 결여될 수 있다.
왜 규칙과 데이터를 모두 알아야 하는가
오늘날 인공지능은 세상을 변화시키고 있지만, 여전히 사람들이 궁금해하는 점은 ‘AI가 어떻게 판단하는가?’이다. AI는 대부분 데이터를 통해 패턴을 찾는 방식으로 작동하지만, 모든 상황에서 데이터만으로는 충분하지 않다. 드물게 발생하는 사건이나 예측할 수 없는 미래의 상황에 대해서는 데이터를 기반으로 판단하기 어렵다. 자율주행차가 불법 유턴을 학습하여 사고를 일으킨 사례가 대표적인 예다. 이 경우, AI는 데이터를 잘 학습했지만 ‘옳은 선택’은 판단하지 않았다. 법규나 윤리와 같은 규칙은 데이터에 포함되지 않기 때문이다.
따라서 규칙의 중요성이 강조된다. 규칙은 단순히 반복된 경험에서 얻어지는 것이 아니라, 인간의 논리와 판단으로 형성된다. 규칙은 현실을 간소화하고, 우리가 경험하지 못한 상황에도 적용될 수 있는 일반성을 제공한다. 데이터는 구체적이고 실제적이지만, 규칙은 추상적이고 설명이 가능하다. 이 둘이 결합할 때 인공지능은 더 신뢰할 수 있는 판단을 내릴 수 있다.
규칙과 데이터 중 어느 것이 더 중요한지 묻는 것은 사고와 경험 중 무엇이 더 중요한지 묻는 것과 같다. 데이터 중심의 AI는 익숙한 것에는 잘 반응하지만, 낯선 상황에서는 당황할 수 있다. 반면, 규칙 중심의 접근은 상황을 해석하려 하지만 현실과 동떨어질 수 있다. 우리는 데이터와 규칙의 균형을 갖춘 인공지능을 원한다. 이 균형이 바로 뉴로심볼릭 AI에서 강조되는 핵심 개념이다.
뉴로심볼릭 직관적으로 이해하기: What time is ( )?
뉴로심볼릭 AI를 직관적으로 이해하기 위해 영어 학습을 예로 들어보자. 영어를 배우는 방식에는 두 가지가 있다. 하나는 문법을 배우고 규칙을 적용하여 문장을 만드는 방식이고, 다른 하나는 반복적으로 문장을 접하며 자연스럽게 규칙을 내재화하는 방식이다. 대부분의 한국 사람들은 첫 번째 방식에 익숙하다. 반면, 언어 환경에 노출되어 영어를 익힌 사람들은 두 번째 방식에 더 가깝다. 문법 규칙을 알지 못해도, 반복적인 노출을 통해 상황에 맞는 표현을 자연스럽게 사용할 수 있다.
이 두 방식은 모두 언어를 배우는 방법이지만, 작동 원리가 다르다. 첫 번째 방식은 규칙을 배우고 경험을 더하는 방식이라면, 두 번째 방식은 경험을 통해 규칙을 내면화하는 방식이다. 인공지능 학습에서도 이와 유사한 방식이 적용된다. 생성형 AI는 문법 규칙을 따르는 것처럼 보이지만, 실제로는 수많은 문장을 학습하여 자주 등장하는 단어나 문장 구조를 확률적으로 예측한다. 이는 규칙을 배우기보다는 경험을 통해 규칙처럼 보이는 패턴을 내면화한 결과이다.
이와 같은 차이는 인공지능에도 적용된다. 데이터만으로 학습하는 방식은 한계가 있을 수 있으며, 규칙을 결합해야만 더 깊은 이해와 추론을 할 수 있다. 뉴로심볼릭 AI는 규칙 기반의 접근(심볼릭)과 데이터 학습 기반의 접근(뉴로)을 결합하는 방식이다. 이는 문법을 배우고 수많은 문장을 접하면서 그 규칙을 실제로 사용하는 영어 학습과 유사하다. 두 방식의 결합은 인공지능이 더 유연하고 정확한 결과를 도출할 수 있게 만든다.
결국, 뉴로심볼릭 AI는 규칙과 데이터의 균형을 맞추어, 데이터에서 얻을 수 없는 깊이 있는 추론을 가능하게 한다. 이를 통해 AI는 더 넓은 범위의 문제를 해결할 수 있으며, 우리가 원하는 정확하고 신뢰할 수 있는 판단을 내릴 수 있다.
반쪽짜리 AI 인식으로는 온전한 AI 전략을 짤 수 없다
AI 전략을 제대로 수립하기 위해서는 AI의 규칙 기반과 데이터 기반 접근을 모두 이해하고 활용해야 한다. 하지만 많은 개인, 기업, 국가들이 AI의 한 측면만을 강조하거나 그 중요성을 지나치게 단순화하는 경향이 있다. 예를 들어, 일부 기업은 데이터 기반 AI를 지나치게 의존하여 결과물의 정확성이나 윤리적 문제를 간과하는 경우가 많다. 이는 AI가 특정 데이터를 학습하는 데 한계가 있다는 점을 무시한 채, 데이터의 빈틈을 채울 규칙적 사고를 배제하게 만든다. 개인적으로는 AI가 제공하는 데이터나 알고리즘을 비판 없이 수용하는 편향이 생길 수 있고, 기업은 벤치마크와 성능만을 중시해 실제 현장에서 발생할 수 있는 문제를 간과할 위험이 있다. 국가적으로는 AI의 윤리적 기준이나 법적 규제 없이 기술 발전을 추구하게 되면 사회적 혼란이나 불평등을 초래할 수 있다. 이러한 반쪽짜리 AI 인식은 전체 AI 전략을 왜곡하고, 궁극적으로 불완전한 시스템을 만들게 된다. 진정한 AI 전략은 규칙과 데이터, 두 축을 균형 있게 발전시켜야만 가능한 것이다.
AI를 이해하는 두 개의 렌즈: 규칙과 데이터
인공지능이 사람처럼 사고하고 판단하기 위해서는 두 가지 접근 방식을 통해 바라봐야 한다. 하나는 방대한 데이터를 통해 세상을 경험하고 패턴을 발견하는 데이터 기반 접근이며, 다른 하나는 규칙과 논리를 통해 세상을 구조적으로 해석하는 규칙 기반 접근이다. 이 두 방식은 독립적으로 보일 수 있지만, 사실은 서로를 보완하며 인공지능이 더욱 깊고 정확한 판단을 내릴 수 있도록 돕는다. 이 두 렌즈를 이용하는 방식을 일컫는 뉴로심볼릭 AI는 이 두 접근 방식의 균형을 추구하며, 인간과 기계 간의 협업을 더욱 효과적으로 만들어 주는 새로운 지능의 시대를 열고 있다. 이 균형을 잃으면 온전한 AI전략을 짤 수 없게 된다.
이미지 출처: Copilot으로 생성
똑똑해질수록 횡설수설 해대는 AI
2025년 4월, 오픈AI는 신모델인 o4 mini와 o3를 출시했다. 많은 사람들이 모델의 숫자가 올라가면 AI가 더 똑똑해질 것이라 기대했다. 그러나 실제로 나타난 현상은 AI의 환각 현상이 증가한 것이다. 환각은 AI가 사실이 아닌 정보를 마치 진실처럼 생성하는 현상이다. 모델이 더욱 복잡한 추론을 시도할수록, 오히려 부정확한 정보를 생성하는 빈도가 높아질 수 있다. 예를 들어, 오픈AI는 o4 mini와 o3 모델이 이전 모델(o1)보다 환각률이 각각 3배, 2배 높다고 인정했다. 이는 AI가 복잡한 추론을 하더라도 그 정확도가 떨어질 수 있음을 시사한다.
또한, 성능 벤치마크에서는 높은 점수를 얻더라도 실제 응용에서는 혼란을 일으킬 수 있다는 점이 문제로 지적되었다. 특히, AI 모델들이 코드나 실제 작업에서 비현실적인 결과를 도출하는 사례가 많다. 강화 학습을 통해 성능이 개선되더라도, 초기에 학습된 지식이 왜곡되는 현상이 발생할 수 있다. AI는 데이터를 기반으로 학습하며, 이 학습이 ‘무엇이 옳은지’에 대한 규칙적 판단을 따르지 않기 때문에, 윤리적 규정이나 법규가 결여될 수 있다.
왜 규칙과 데이터를 모두 알아야 하는가
오늘날 인공지능은 세상을 변화시키고 있지만, 여전히 사람들이 궁금해하는 점은 ‘AI가 어떻게 판단하는가?’이다. AI는 대부분 데이터를 통해 패턴을 찾는 방식으로 작동하지만, 모든 상황에서 데이터만으로는 충분하지 않다. 드물게 발생하는 사건이나 예측할 수 없는 미래의 상황에 대해서는 데이터를 기반으로 판단하기 어렵다. 자율주행차가 불법 유턴을 학습하여 사고를 일으킨 사례가 대표적인 예다. 이 경우, AI는 데이터를 잘 학습했지만 ‘옳은 선택’은 판단하지 않았다. 법규나 윤리와 같은 규칙은 데이터에 포함되지 않기 때문이다.
따라서 규칙의 중요성이 강조된다. 규칙은 단순히 반복된 경험에서 얻어지는 것이 아니라, 인간의 논리와 판단으로 형성된다. 규칙은 현실을 간소화하고, 우리가 경험하지 못한 상황에도 적용될 수 있는 일반성을 제공한다. 데이터는 구체적이고 실제적이지만, 규칙은 추상적이고 설명이 가능하다. 이 둘이 결합할 때 인공지능은 더 신뢰할 수 있는 판단을 내릴 수 있다.
규칙과 데이터 중 어느 것이 더 중요한지 묻는 것은 사고와 경험 중 무엇이 더 중요한지 묻는 것과 같다. 데이터 중심의 AI는 익숙한 것에는 잘 반응하지만, 낯선 상황에서는 당황할 수 있다. 반면, 규칙 중심의 접근은 상황을 해석하려 하지만 현실과 동떨어질 수 있다. 우리는 데이터와 규칙의 균형을 갖춘 인공지능을 원한다. 이 균형이 바로 뉴로심볼릭 AI에서 강조되는 핵심 개념이다.
뉴로심볼릭 직관적으로 이해하기: What time is ( )?
뉴로심볼릭 AI를 직관적으로 이해하기 위해 영어 학습을 예로 들어보자. 영어를 배우는 방식에는 두 가지가 있다. 하나는 문법을 배우고 규칙을 적용하여 문장을 만드는 방식이고, 다른 하나는 반복적으로 문장을 접하며 자연스럽게 규칙을 내재화하는 방식이다. 대부분의 한국 사람들은 첫 번째 방식에 익숙하다. 반면, 언어 환경에 노출되어 영어를 익힌 사람들은 두 번째 방식에 더 가깝다. 문법 규칙을 알지 못해도, 반복적인 노출을 통해 상황에 맞는 표현을 자연스럽게 사용할 수 있다.
이 두 방식은 모두 언어를 배우는 방법이지만, 작동 원리가 다르다. 첫 번째 방식은 규칙을 배우고 경험을 더하는 방식이라면, 두 번째 방식은 경험을 통해 규칙을 내면화하는 방식이다. 인공지능 학습에서도 이와 유사한 방식이 적용된다. 생성형 AI는 문법 규칙을 따르는 것처럼 보이지만, 실제로는 수많은 문장을 학습하여 자주 등장하는 단어나 문장 구조를 확률적으로 예측한다. 이는 규칙을 배우기보다는 경험을 통해 규칙처럼 보이는 패턴을 내면화한 결과이다.
이와 같은 차이는 인공지능에도 적용된다. 데이터만으로 학습하는 방식은 한계가 있을 수 있으며, 규칙을 결합해야만 더 깊은 이해와 추론을 할 수 있다. 뉴로심볼릭 AI는 규칙 기반의 접근(심볼릭)과 데이터 학습 기반의 접근(뉴로)을 결합하는 방식이다. 이는 문법을 배우고 수많은 문장을 접하면서 그 규칙을 실제로 사용하는 영어 학습과 유사하다. 두 방식의 결합은 인공지능이 더 유연하고 정확한 결과를 도출할 수 있게 만든다.
결국, 뉴로심볼릭 AI는 규칙과 데이터의 균형을 맞추어, 데이터에서 얻을 수 없는 깊이 있는 추론을 가능하게 한다. 이를 통해 AI는 더 넓은 범위의 문제를 해결할 수 있으며, 우리가 원하는 정확하고 신뢰할 수 있는 판단을 내릴 수 있다.
반쪽짜리 AI 인식으로는 온전한 AI 전략을 짤 수 없다
AI 전략을 제대로 수립하기 위해서는 AI의 규칙 기반과 데이터 기반 접근을 모두 이해하고 활용해야 한다. 하지만 많은 개인, 기업, 국가들이 AI의 한 측면만을 강조하거나 그 중요성을 지나치게 단순화하는 경향이 있다. 예를 들어, 일부 기업은 데이터 기반 AI를 지나치게 의존하여 결과물의 정확성이나 윤리적 문제를 간과하는 경우가 많다. 이는 AI가 특정 데이터를 학습하는 데 한계가 있다는 점을 무시한 채, 데이터의 빈틈을 채울 규칙적 사고를 배제하게 만든다. 개인적으로는 AI가 제공하는 데이터나 알고리즘을 비판 없이 수용하는 편향이 생길 수 있고, 기업은 벤치마크와 성능만을 중시해 실제 현장에서 발생할 수 있는 문제를 간과할 위험이 있다. 국가적으로는 AI의 윤리적 기준이나 법적 규제 없이 기술 발전을 추구하게 되면 사회적 혼란이나 불평등을 초래할 수 있다. 이러한 반쪽짜리 AI 인식은 전체 AI 전략을 왜곡하고, 궁극적으로 불완전한 시스템을 만들게 된다. 진정한 AI 전략은 규칙과 데이터, 두 축을 균형 있게 발전시켜야만 가능한 것이다.