아리조나대 천체물리학자 Chi-kwan Chan이 OpenAI의 코딩 보조 AI 'Codex'를 활용해 블랙홀 주변 플라즈마 모델링의 기술적 난제를 돌파하고 있다. 국제 이벤트 호라이즌 망원경(EHT) 프로젝트의 일원인 Chan은 첫 블랙홀 영상 공개(2019년) 이후, 초대질량 블랙홀의 동영상 촬영으로 나아가는 과정에서 AI의 알고리즘 탐색 능력을 과학 연구에 접목했다.

수십 년 묵은 계산 병목

블랙홀의 사건의 경계(event horizon)—"복귀 불가능의 지점"—주변에서 소용돌이치는 플라즈마 모델링은 현대 천체물리학의 가장 극단적 도전 과제다.

기존 시뮬레이션은 플라즈마를 유체로 간단히 취급해 왔다. 밀도 높은 영역에서는 전자와 이온이 자주 충돌하므로, 유체 방정식으로 충분했다.

하지만 M87 은하 중심의 초대질량 블랙홀 근처에서는 상황이 달라진다. 극한의 온도에서 입자 밀도가 극도로 낮아지면, 전자와 이온이 거의 충돌하지 않는다. 대신 자기장 주변을 나선형으로 급회전한다.

이 현상을 정확히 모델링하려면 수조 개의 전자와 이온 하나하나의 움직임을 추적해야 한다. 컴퓨터는 극도로 작은 시간 간격으로 모든 미시적 회전을 계산해야 하는데, 지구 최고 성능의 슈퍼컴퓨터도 대부분의 계산 시간을 이들 미세한 입자 운동에만 소비하게 된다.

"수십 년간 이 문제가 우리의 시뮬레이션 정확도를 제한해 왔다"고 Chan은 밝혔다.

AI로 알고리즘 탐색을 가속화하다

Chan의 팀은 새로운 수학 기법으로 이 병목을 돌파할 수 있을 것으로 예상했다. 핵심 아이디어는 입자 운동을 수학적으로 변환해, 컴퓨터가 모든 나선형 움직임을 일일이 추적할 필요 없게 하는 것이었다.

문제는 "손으로 모든 수학적 가능성을 탐색하는 데 엄청난 시간이 필요했다"는 점이다. 이때 Chan이 전환한 도구가 Codex였다.

Codex는 후보 알고리즘을 생성하고 이미 알려진 해와 대조하도록 지원했다. 모든 결과가 정확한 것은 아니었다. 하지만 Chan은 이를 문제로 보지 않았다.

"과학적 아이디어 대부분은 실패한다. 중요한 것은 이들 알고리즘이 테스트 가능하다는 점이다. 작동하는 알고리즘을 발견하면, 이전에는 불가능했던 시뮬레이션이 열릴 수 있다"고 그는 설명했다.

일부 AI 시스템은 결론에 도달한 과정을 보여주지 않는다. 하지만 Chan의 팀은 Codex가 제안한 수치 해석 방법을 직접 검사하고, 테스트하며, 물리학적으로 이해할 수 있도록 한다.

과학의 엄밀성이 AI의 강점을 살린다

대규모 언어모델(LLM)은 여전히 오류를 일으키며, 많은 과학자들이 연구에 AI를 적용하는 것에 신중하다.

그러나 Chan은 오늘날 AI 시스템의 최선의 용도가 오히려 과학이라고 본다. 과학적 아이디어는 엄격한 검증을 거칠 수 있기 때문이다.

"우리는 아인슈타인에게서 나왔거나, 똑똑한 학생에게서 나왔거나, AI 모델에서 나왔다는 이유로 그 아이디어를 받아들이지 않는다. 반복된 테스트를 거친 후에야 그것을 받아들인다"고 Chan은 강조했다.

Chan이 보기에, AI는 연구자가 더 많은 아이디어를 탐색하고 더 빠르게 테스트하며, 검증과 재현성에 기반한 발견을 가속화하는 도구다.

만약 Chan이 Codex로 테스트 중인 접근법이 성공한다면, 새 알고리즘은 결국 블랙홀 주변 수조 개의 입자를 시뮬레이션할 수 있게 할 것이다. 이는 수십 년간 도달 불가능했던 물리학 영역을 연구자들이 탐구하게 할 것으로 기대된다.