[천자칼럼] 알고리즘

오춘호 논설위원 ohchoon@hankyung.com

자동 기계장치 오토마타(automata)는 근세 과학자나 귀족들의 관심거리였다. 과학자들은 보다 정밀하고 복잡한 오토마타를 만들고 싶어했으며 귀족들은 이런 장치를 소유하는 것을 자랑으로 여겼다. 정교하게 만들어진 오토마타, 바로 시계는 교회와 제후들의 권위의 상징이 되기도 했다. 이런 자동 장치를 만드는 공학적 기반이 알고리즘이다.

알고리즘(algorithm)은 문제를 해결하는 절차나 방법을 말한다. 끓는 물에 라면과 스프를 넣으면 라면 조리의 알고리즘이다. 라면에 스프를 넣은 뒤 끓인 물을 부으면 컵라면의 알고리즘이다. 알고리즘 세계가 얼마나 어려운지는 조리법에서 알 수 있다는 말도 있다.

알고리즘이라는 용어는 9세기에 활약한 페르시아 수학자 알콰리즈미의 이름에서 유래했다고 한다. 알콰리즈미는 2차방정식을 푸는 근의 공식과 인수분해 등을 개발한 수학자다. 그의 저서 ‘산술(Arithmetics)’이 라틴어로 번역되면서 간결하고도 쉬운 연산 기법을 통칭 알고리즘으로 불렀던 것이다. 하지만 그의 수학은 인도인 수학자 브라마굽타에서 파생된 것이라고 한다. 이런 연산 기법이 소위 자동화과정을 거치면서 논리 회로를 만드는 것으로 진화했다. 특히 수학자 라이프니츠의 힘이 컸다.

20세기 컴퓨터가 등장하면서 알고리즘적 사고는 빛을 발한다. 컴퓨터를 움직이는 프로그램은 모두 정교한 알고리즘을 기반으로 한다. 내비게이션이 최단 경로를 찾는 것도 알고리즘의 힘이요 휴대폰에서 은행 업무를 처리할 수 있는 것도, 인터넷 검색을 최대한 빨리 그리고 정확하게 할 수 있는 것도 모두 알고리즘 덕분이다. 그래서 미국의 기술평론가 케빈 슬레이븐은 우리가 알고리즘으로 디자인된 세상에 살고 있다고 지적한다. 컴퓨터 알고리즘에 의해 짜인 프로그램들이 주가를 움직이고 무기들을 통제한다. 물론 우리는 전혀 이런 알고리즘을 이해하지 못한다. 알고리즘이 한 번 오류가 나면 세상은 감당할 수 없는 혼란에 빠지게 된다. 프로그램 알고리즘 오류로 종종 일어나는 대형 금융사고가 그렇다.

케빈 애슈턴 벨킨 사장이 엊그제 한경 창조포럼에 참석해 “지난 100여년간 수학 시간에 천편일률적인 방정식만 가르쳤지만 앞으로는 데이터 분석의 원리를 파악하는 알고리즘을 가르쳐야 한다”고 조언했다고 한다. 알고리즘은 하나의 닫힌 반응회로와도 같다. 지금은 스스로 반응하는 열린 알고리즘으로 진화하는 추세다. 알고리즘을 만들어 내는 알고리즘의 시대로 진입하고 있다.

오춘호 논설위원 ohchoon@hankyung.com