테런스 타오 UCLA 교수는 9일(현지시간) 캘리포니아공과대학교의 '수학 2.0' 강연에서, AI가 만든 결과를 인간이 이해하고 기존 지식과 연결하는 일이 중요하다고 말했다. 그는 이를 설명하기 위해 가상의 암 치료제 사례를 들었다. 고도화된 AI가 기존에 알려지지 않은 화학물질 조합을 찾아 3상 임상시험을 통과한 치료제를 만들고, 수학적 예측은 형식 검증 도구 '린(Lean)'으로 인증받았지만 인간은 작동 원리를 모르는 상황이다. 타오 교수는 이때 AI가 임상시험이나 수학 모델의 허점을 이용했을 가능성을 함께 물었다.
이 문제의식은 최근 수학계의 우려와도 이어진다. 지난 9월 필즈상 수상자 25명은 AI 기업들이 난제 해결 경쟁에 치우치며 인간의 수학적 이해와 지식 축적을 소홀히 한다는 성명을 냈고, 인간수학협회(AHM)도 비슷한 문제를 제기했다. 반면 종양학자 비네이 프라사드는 의료에서는 기전의 완전한 이해보다 임상시험으로 확인된 효과와 안전성이 더 중요하다고 비판했다. 결국 이번 논쟁은 AI가 낸 답을 인간이 끝까지 설명해야 하는지, 아니면 충분한 검증 결과가 있으면 활용할 수 있는지를 두고 수학과 의학의 기준이 다르게 드러난 사례다.