매컬러와 피츠, 뉴런을 논리 회로로 표현하다.
신경세포가 일정 이상의 자극을 받으면 켜지고 아니면 꺼지는 스위치처럼 동작한다고 보고, 이런 뉴런을 연결하면 어떤 논리 연산이든 만들 수 있음을 보였습니다.
1943년 최초의 인공 뉴런 모델부터 오늘의 AI 에이전트까지
컴퓨터가 막 태어나던 때, 신경과학자와 수학자들은 뇌의 작동 방식을 논리와 수식으로 설명하려 했습니다.
매컬러와 피츠, 뉴런을 논리 회로로 표현하다.
신경세포가 일정 이상의 자극을 받으면 켜지고 아니면 꺼지는 스위치처럼 동작한다고 보고, 이런 뉴런을 연결하면 어떤 논리 연산이든 만들 수 있음을 보였습니다.
도널드 헵, 연결은 쓸수록 강해진다.
『행동의 조직』에서 함께 활성화되는 뉴런 사이의 연결이 강해진다는 가설을 냈습니다. 흔히 ‘함께 발화하는 뉴런은 함께 연결된다’로 요약됩니다.
몇몇 과학자들은 계산을 넘어 ‘지능’ 자체를 기계로 만들 수 있다고 믿었고, 이 분야에 이름을 붙였습니다.
앨런 튜링, “기계가 생각할 수 있는가?”
논문 「Computing Machinery and Intelligence」에서 ‘흉내 게임’을 제안했습니다. 대화 상대가 사람인지 기계인지 구분할 수 없다면 기계가 생각한다고 봐도 되지 않느냐는 질문입니다.
‘Artificial Intelligence’라는 용어의 탄생.
존 매카시, 마빈 민스키, 클로드 섀넌 등이 모여 여름 한 철이면 상당한 진전을 낼 수 있다고 낙관했습니다. 그 낙관은 수십 년 동안 이어지게 됩니다.
수학 정리를 스스로 증명한 첫 프로그램.
뉴얼, 사이먼, 쇼가 만든 프로그램으로, 『수학 원리』 2장의 정리 52개 중 38개를 증명했습니다. 일부 증명은 원래 책보다 더 간결했습니다.
배우는 기계, 그리고 AI의 언어.
프랭크 로젠블랫은 틀리면 가중치를 고치며 배우는 인공 뉴런 ‘퍼셉트론’을 만들었고, 존 매카시는 이후 수십 년간 AI 연구의 표준 언어가 되는 LISP을 설계했습니다.
아서 새뮤얼의 체커 프로그램.
IBM의 새뮤얼은 스스로 대국하며 실력을 키우는 체커 프로그램을 만들었고, 결국 자신보다 잘 두게 됐습니다. 그는 이를 ‘명시적으로 프로그래밍하지 않아도 배우는 능력’, 머신러닝이라고 불렀습니다.
곧 사람처럼 생각하는 기계가 나올 거라는 기대가 컸습니다. 그리고 그 한계를 지적하는 목소리도 나오기 시작합니다.
화학자의 지식을 담은 첫 전문가 시스템.
스탠퍼드의 파이겐바움, 레더버그 등이 질량 분석 데이터로 분자 구조를 추론하는 프로그램을 만들었습니다. ‘범용 지능’ 대신 한 분야의 전문 지식을 담는 접근이었습니다.
MIT의 심리상담사 흉내 챗봇.
단순한 패턴 치환만으로 대화했지만 사람들은 ELIZA에게 진지하게 마음을 털어놓았습니다. 개발자 와이젠바움은 이 반응에 오히려 충격을 받았습니다.
스스로 판단하고 움직인 첫 이동 로봇.
SRI의 Shakey는 카메라로 주변을 보고, 계획을 세우고, 바퀴로 움직였습니다. 이 과정에서 오늘날 지도 앱과 게임에서도 쓰는 경로 탐색 알고리즘 A*가 탄생했습니다.
민스키·패퍼트가 퍼셉트론의 한계를 증명.
약속은 컸고 컴퓨터는 느렸습니다. 성과가 기대에 못 미치자 연구비가 끊기는 ‘AI 겨울’이 찾아옵니다.
논리 규칙을 적으면 답을 찾아주는 언어.
프랑스 마르세유에서 탄생한 논리 프로그래밍 언어. ‘어떻게’가 아니라 ‘무엇이 참인지’를 적으면 컴퓨터가 추론합니다. 유럽과 일본의 AI 연구에서 널리 쓰였습니다.
스탠퍼드의 감염병 진단 시스템.
수백 개의 규칙으로 세균 감염을 진단하고 항생제를 추천했습니다. 평가에서는 전문의에 견줄 만한 결과를 냈지만, 책임과 윤리 문제로 실제 진료에는 쓰이지 않았습니다.
기대에 못 미친 성과, 끊긴 연구비.
1973년 영국의 라이트힐 보고서가 AI가 약속을 지키지 못했다고 비판했고, 영국과 미국에서 연구 지원이 크게 줄었습니다. 현실 문제는 경우의 수가 너무 많아 당시 컴퓨터로는 감당할 수 없었습니다.
전문가의 지식을 규칙으로 옮긴 시스템이 기업에 팔리며 AI가 잠시 살아납니다. 연구실에서는 신경망이 조용히 부활합니다.
전문가의 지식을 if-then 규칙으로.
DEC의 XCON은 컴퓨터 주문 사양을 자동으로 구성해 회사에 연간 수천만 달러를 아껴줬습니다. 기업들이 앞다퉈 전문가 시스템을 도입했지만, 규칙을 사람이 일일이 넣고 고쳐야 했습니다.
후쿠시마 구니히코의 시각 피질 모방 신경망.
고양이 시각 피질 연구에서 영감을 받아, 단순한 특징을 점점 복잡한 특징으로 쌓아 올리는 계층 구조를 제안했습니다. 훗날 합성곱 신경망(CNN)의 직접적인 조상이 됩니다.
물리학으로 설명한 기억하는 신경망.
존 홉필드는 신경망을 에너지가 가장 낮은 상태로 가라앉는 물리 시스템으로 보고, 일부만 주어져도 전체 패턴을 떠올리는 ‘연상 기억’을 구현했습니다. 이 연구는 2024년 노벨 물리학상으로 이어집니다.
국가가 나선 10년짜리 AI 프로젝트.
일본 통상산업성이 논리 추론을 하는 차세대 컴퓨터를 목표로 대규모 투자를 시작했고, 놀란 미국과 유럽도 경쟁적으로 AI 예산을 늘렸습니다. 프로젝트는 목표를 이루지 못하고 끝났습니다.
여러 층의 신경망을 학습시키는 방법.
럼멜하트, 힌턴, 윌리엄스의 논문이 역전파를 널리 알렸습니다. 출력의 오차를 거꾸로 전달하며 각 층의 가중치를 고치는 방식으로, 다층 신경망이 XOR 같은 문제를 풀 수 있게 됩니다.
전문가 시스템과 LISP 머신 시장의 붕괴.
값싼 PC와 워크스테이션이 비싼 AI 전용 하드웨어를 대체했고, 규칙이 수천 개로 불어난 전문가 시스템은 유지보수가 불가능해졌습니다. 다시 투자가 얼어붙었습니다.
얀 르쿤, 역전파로 합성곱 신경망을 학습.
AI라는 이름 대신 ‘머신러닝’, ‘통계적 학습’이라는 이름으로 연구가 이어집니다. 그 사이 기계가 체스 챔피언을 꺾습니다.
스스로 대국하며 배운 백개먼 프로그램.
IBM의 테사우로가 만든 신경망은 자기 자신과 수십만 판을 두며 실력을 키워 세계 최정상급에 근접했습니다. 사람이 생각하지 못한 수를 찾아내 전문가들의 전략까지 바꿨습니다.
데이터를 가장 넓은 여백으로 가르는 분류기.
IBM 컴퓨터가 체스 챔피언 카스파로프를 꺾다.
오래 기억하는 순환 신경망.
호흐라이터와 슈미트후버는 순환 신경망이 먼 과거의 정보를 잊어버리는 문제를 ‘게이트’로 해결했습니다. 2010년대 음성 인식과 번역의 핵심 기술이 됩니다.
실제 은행 수표를 읽은 합성곱 신경망.
르쿤의 LeNet-5는 미국에서 수표의 손글씨 숫자를 읽는 데 쓰였습니다. 함께 공개된 MNIST 데이터셋은 이후 수십 년간 머신러닝의 ‘Hello, World’가 됩니다.
인터넷이 데이터를 쌓고, 게임용 그래픽 칩이 계산력을 키웁니다. 신경망이 돌아올 무대가 갖춰집니다.
집 안으로 들어온 첫 대중 로봇.
iRobot의 로봇청소기는 센서와 단순한 규칙만으로 집 안을 돌아다녔습니다. 거창한 지능 없이도 쓸모 있는 로봇이 수백만 대 팔리며 가정용 로봇 시장을 열었습니다.
자율주행차가 사막 212km를 완주하다.
2004년 첫 대회에서는 완주한 차가 하나도 없었지만, 이듬해 스탠퍼드의 ‘Stanley’가 1위로 완주했습니다. 이 팀의 연구자들이 이후 구글 자율주행 프로젝트(현 Waymo)를 이끕니다.
힌턴, 깊은 신경망을 학습시키는 방법을 제시.
NVIDIA, GPU를 범용 계산에 쓸 수 있게 공개.
페이페이 리가 만든 대규모 이미지 데이터셋.
GPU와 대규모 데이터가 신경망을 깨웠습니다. 이미지, 음성, 번역, 게임, 바둑까지 차례로 무너집니다.
퀴즈쇼 우승, 그리고 주머니 속 음성 비서.
구글 브레인, 라벨 없이 개념을 배우다.
CPU 코어 16,000개로 유튜브 영상에서 뽑은 이미지 1,000만 장을 학습시키자, 아무도 알려주지 않았는데 ‘고양이’에 반응하는 뉴런이 생겼습니다.
ImageNet 대회에서 딥러닝이 압승.
GPU 두 장으로 학습한 CNN이 오류율 15.3%로, 26%대였던 2위를 큰 차이로 따돌렸습니다. 이후 컴퓨터 비전은 빠르게 딥러닝으로 넘어갑니다.
단어를 숫자 벡터로, 의미를 계산하다.
구글의 미콜로프 팀은 단어를 수백 차원의 벡터로 바꿨습니다. ‘왕 − 남자 + 여자 ≈ 여왕’처럼 의미를 덧셈 뺄셈으로 다룰 수 있게 됐습니다.
화면만 보고 게임을 배운 강화학습.
딥마인드의 DQN은 게임 화면 픽셀과 점수만 보고 수십 개의 아타리 게임을 스스로 익혔고, 여러 게임에서 사람보다 잘했습니다. 구글은 이듬해 딥마인드를 인수합니다.
두 신경망이 서로 속이며 배우는 생성 모델.
이언 굿펠로의 적대적 생성 신경망은 가짜 이미지를 만드는 생성자와 그것을 가려내는 판별자를 경쟁시킵니다. 몇 년 뒤 실제와 구분하기 어려운 얼굴 사진까지 만들어냅니다.
문장을 읽고 문장을 쓰는 신경망.
한 문장을 벡터로 압축했다가 다른 언어로 풀어내는 seq2seq, 그리고 번역할 때 원문의 어느 부분을 볼지 스스로 정하는 ‘어텐션’이 등장했습니다.
152층 신경망, 사람의 인식 정확도를 넘다.
마이크로소프트 연구진은 층을 건너뛰는 ‘지름길 연결’로 아주 깊은 신경망도 학습할 수 있게 했습니다. ImageNet 오류율 3.6%로, 흔히 인용되는 사람 수준(약 5%)보다 낮았습니다.
이세돌 9단을 4:1로 꺾다.
경우의 수가 너무 많아 기계가 정복하기 어렵다던 바둑에서, 딥러닝과 강화학습의 조합이 인간 최고수를 넘었습니다. 4국에서 이세돌이 둔 78수 ‘신의 한 수’는 공식 대국에서 인간이 AlphaGo를 이긴 유일한 판으로 남았습니다.
구글 번역이 하룻밤 사이에 달라지다.
논문 「Attention Is All You Need」.
순서대로 읽던 순환 신경망을 버리고, 문장 전체를 한 번에 보는 어텐션만으로 번역 성능을 끌어올렸습니다. 병렬 계산이 쉬워 모델을 크게 키우기 좋았습니다.
규칙만 알려주면 스스로 고수가 되다.
대규모 사전학습 언어 모델의 등장.
OpenAI의 GPT-1과 구글의 BERT가 ‘먼저 방대한 텍스트로 학습한 뒤 작업에 맞게 조정’하는 방식을 표준으로 만들었습니다.
“공개하기엔 너무 위험하다.”
그럴듯한 긴 글을 써내는 GPT-2를 OpenAI는 악용 우려를 이유로 단계적으로 공개했습니다. 언어 모델의 위험성이 처음으로 공개 논쟁이 됐습니다.
모델을 키우자 예상하지 못한 능력이 나타났습니다. AI가 대화하고, 그리고, 과학을 하고, 이제 직접 일을 합니다.
1,750억 파라미터, 예시 몇 개로 새 작업을.
모델, 데이터, 계산량을 키우면 성능이 예측 가능하게 오른다는 ‘스케일링 법칙’이 발표되고, 이를 증명하듯 GPT-3는 따로 학습시키지 않아도 프롬프트 속 예시만 보고 번역, 요약, 코딩을 해냈습니다.
50년 묵은 단백질 구조 예측 문제를 풀다.
CASP14 대회에서 실험에 견줄 만한 정확도로 단백질 3차원 구조를 예측했습니다. 이후 2억 개가 넘는 단백질 구조가 공개되어 전 세계 생물학 연구에 쓰입니다.
글로 그림을, 주석으로 코드를.
OpenAI는 문장을 이미지로 바꾸는 DALL·E와 이미지와 글을 함께 이해하는 CLIP을 공개했고, GitHub Copilot은 개발자의 에디터 안에서 다음 코드를 제안하기 시작했습니다.
DALL·E 2, Midjourney, Stable Diffusion.
몇 단어만 입력하면 사진 같은 그림이 나오는 확산 모델이 쏟아졌습니다. 특히 가중치가 공개된 Stable Diffusion은 누구나 자기 컴퓨터에서 돌릴 수 있었고, 저작권과 창작에 대한 논쟁도 불붙었습니다.
두 달 만에 1억 명이 쓴 대화형 AI.
사람의 피드백으로 대화하는 법을 익힌(RLHF) 언어 모델을 채팅 화면에 담아 11월 30일 공개했습니다. 역사상 가장 빠르게 성장한 소비자 서비스가 되며 AI 경쟁의 방아쇠를 당겼습니다.
GPT-4, Claude, Llama, Gemini.
이미지까지 이해하는 GPT-4, Anthropic의 Claude, 가중치를 공개한 Meta의 Llama, 구글의 Gemini가 한 해에 쏟아졌습니다.
각국 정부가 AI 위험을 함께 논의하다.
영국 블레츨리 파크에서 첫 AI 안전 정상회의가 열려 주요국이 ‘블레츨리 선언’에 서명했습니다. 이후 이 회의는 매년 다른 나라에서 이어집니다.
문장으로 1분짜리 영상을.
OpenAI가 공개한 Sora는 텍스트만으로 꽤 자연스러운 영상을 만들어 충격을 줬습니다. 이미지에 이어 영상, 음성, 음악까지 생성 범위가 넓어졌습니다.
세계 첫 포괄적 AI 법.
유럽연합이 AI를 위험도에 따라 나누고 규제하는 법을 8월 시행했습니다. 일부 용도는 금지되고, 고위험 AI에는 엄격한 의무가 단계적으로 적용됩니다.
답하기 전에 ‘생각’하는 AI.
OpenAI o1을 시작으로, 답을 내기 전에 긴 사고 과정을 거치는 모델이 등장했습니다. 수학, 과학, 코딩 문제에서 성능이 크게 뛰었고, ‘추론 시간에 계산을 더 쓰는’ 새로운 스케일링 방향이 열렸습니다.
물리학상과 화학상이 모두 AI 연구에.
물리학상은 신경망의 기초를 놓은 홉필드와 힌턴에게, 화학상은 단백질 설계의 베이커와 AlphaFold를 만든 허사비스, 점퍼에게 돌아갔습니다.
공개된 추론 모델이 시장을 흔들다.
중국 DeepSeek이 최상위급에 근접한 추론 모델을 가중치까지 공개하고, 훨씬 적은 비용으로 학습했다고 밝혔습니다. 발표 직후 엔비디아 주가가 하루 만에 크게 떨어질 만큼 파장이 컸습니다.
대답하는 AI에서 ‘일하는’ AI로.
Claude Code, Codex 같은 코딩 에이전트가 스스로 코드를 읽고 고치고 테스트하기 시작했습니다. AI를 외부 도구와 연결하는 표준(MCP 등)이 퍼지며 브라우저 조작, 리서치, 업무 자동화로 범위가 넓어졌습니다.
AI가 올림피아드 문제를 자연어로 풀다.
구글 딥마인드와 OpenAI의 모델이 IMO 문제를 사람처럼 글로 증명해 금메달 수준의 점수를 받았습니다. 불과 몇 년 전까지 AI가 가장 못하던 분야였습니다.