"일은 사랑에서 나올 때만 의미가 있다."

Mrinank Sharma의 개인 웹사이트에 적힌 문장이다.


그는 옥스퍼드에서 통계적 머신러닝으로 박사를 마친 연구자다. 동시에 시집을 출판한 시인이고, 버클리에서 명상 공동체를 이끄는 수행자이며, 지혜를 탐구하는 춤판을 여는 DJ이기도 하다.


그런 그가 2년 전, AI가 인류에게 가져올 위험을 막겠다는 사명감으로 Anthropic에 합류했다. 그리고 Safeguards Research Team을 이끌며 AI가 인간에게 아첨하는 현상(sycophancy)을 연구하고, AI를 악용한 바이오테러 방어 시스템을 실제로 프로덕션에 올렸다.


그가 2월 9일, 사직서를 공개했다.



친애하는 동료들에게,


저는 Anthropic을 떠납니다.


저는 끊임없이 우리의 상황과 대면해왔습니다. 세계는 위태롭습니다. AI만의 문제가 아닙니다. 지금 이 순간, 서로 얽힌 위기들이 동시에 펼쳐지고 있습니다.


가장 중요한 것을 옆으로 치우라는 압력은 끊임없이 밀려옵니다.


다음에 무엇이 올지 모릅니다. 유명한 선(禪)의 말이 떠오릅니다.

"모르는 상태가 가장 가까운 것이다."

(Not knowing is most intimate)


감사합니다. 안녕히.

Mrinank



AI 안전의 최전선에서 일하던 사람이 떠난다. 가치를 행동으로 옮기기 어렵다는 말을 남기고.


AI를 만드는 사람이 "AI가 우리를 덜 인간적으로 만들 수 있다"고 연구하다가, 결국 시인으로 돌아가기로 했다.


그가 쥔 실은 무엇이었을까. 그리고 우리가 쥐어야 할 실은 무엇일까.