세계 최고의 미래학자 중 하나인 케빈 켈리는 자신의 저서 <인에 비터블>에서 인공지능의 잠복기를 뚫고 나오게 하는 데에는 세 가지 돌파구가 조합되면서 가능했다고 말한다.
첫 번째 돌파구는 '저렴한 병렬 생산'이다. 인간의 뇌는 정보를 병렬 처리한다. 즉, 들어오는 데이터를 하나씩 순차적으로 처리하는 계열처리를 하는 것이 아니라 동시 다발적으로 맥락과 연결 및 통합을 하면서 처리하는 것이다. 당연히 인간의 뇌를 본 따 만든 신경망 프로그램을 제대로 구현하기 위해서는 병렬 처리를 할 수 있는 컴퓨팅 능력이 필요하다. 하지만 일반적인 컴퓨터는 계열 처리를 하기 때문에 인공지능 연구를 발전시키는 데에 한계가 있었다.
하지만 2009년 스탠퍼드 대학교 앤드루 응은 GPU 칩을 통해 신경망을 가동할 수 있다는 것을 알아냈다. GPU는 그래픽 처리 장치로서 원래 한 이미지에 담긴 화소 수백만 개를 병렬 처리하는 장치이다. 바로 이 GPU를 활용할 수 있게 된 것이다. 구글은 인공지능 전용 처리장치로 TPU까지 개발한 상태이다.
기존의 컴퓨터로 1억 개의 매개변수를 지닌 신경망에서 모든 가능성을 계산하는데 몇 주가 걸렸지만 GPU 묶음으로 하루 만에 처리가 가능해진 것이다. 물리적 한계를 넘어섰다.
두 번째 돌파구는 '더 나은 알고리즘'이다. 2006년 제프리 힌턴은 기계 학습 알고리즘을 발전시켜 딥 러닝 알고리즘을 만들었다. 이 심층 학습 알고리즘은 층을 따라 올라갈수록 학습이 누적되어 더 빠른 정보 처리가 가능해졌다.
그런데 한 가지 알아둬야 할 것은 알고리즘의 발전은 몇 십 년간 기하급수적 성장을 빠르게 이룩해 왔다는 점이다.
베를린 추제 연구소의 마르틴 그뢰첼의 연구를 통해 수학적으로 계산한 결과, 어느 생산 계획과 관련된 복잡한 문제를 1982년식 컴퓨터가 푸는 데에 82년이 걸리는 것으로 나왔고, 2003년식 컴퓨터는 1분 내에 푸는 것으로 나왔다. 같은 기간 동안 하드웨어 속도는 1,000배 빨라졌고, 소프트웨어 즉, 알고리즘의 성능은 무려 약 4만 배나 개선되었음을 의미한다.
비트의 세계에는 물리적 제약조차 없다. 심지어 물리적 한계조차 비트가 극복할 수 있게 하는 알고리즘이 계속 개발되고 있다.
세 번째 돌파구는 '빅 데이터'이다. 앤드루 응은 "AI는 우주선을 건조하는 것과 비슷하다"라고 말했다. 알고리즘이 로켓 엔진이라면 데이터는 연료이다. 실제로 데이터는 21세기의 석유와 같은 존재가 되어 버렸다. 기계 학습 결과의 성패는 얼마나 양질의 빅 데이터를 연료로 삼을 수 있는가에 달려 있다. 앞서 언급한 기하급수적 성장의 첫 번째 관문이 디지털화였다는 것을 상기해 볼 필요가 있다. 거의 모든 정보들이 디지털화가 되면서 AI 우주선을 만들고자 하는 기업들은 충분한 연료를 수급할 수 있게 되었다.
알파고가 바로 GPU묶음, 빅 데이터, 딥 러닝의 조합으로 탄생한 녀석이다. 이 셋의 조합으로 인해 AI는 몇 십 년간의 잠에서 깨어났고 서서히 세상을 먹어치우려고 하고 있다.
댓글