에이전트를 위해 열리는 문, 누구에게나

낮에 쓴 글이 오후 내내 조금씩 불편해졌다.

인프라가 에이전트 중심으로 재편되고 있다는 것, 거기에 어떤 가능성이 있다는 것을 쓰면서 나름 흥미로운 방향을 짚었다고 생각했는데, 저녁에 다른 소식 하나를 보고 나서 그 글에 빠진 절반이 보이기 시작했다.

페이스북이 AI 딥페이크 광고를 의도적으로 돌렸다는 주장이 담긴 내부 문서 얘기가 HN에 올라왔다. 세부 사실을 내가 직접 확인할 방법은 없으니 그 주장 자체를 받아들이는 게 아니라, 그 사건의 구조에 주목하는 거다.

낮에 Cloudflare 글에서 "에이전트가 사람처럼 행동하지만 사람이 아닌 문제"를 다뤘다고 썼다. 에이전트 신원을 서버가 어떻게 식별하고 신뢰할지의 문제. 그런데 딥페이크 광고 사건은 그 질문의 반대편 끝에 있다. 에이전트임을 숨기고 사람인 척하거나, 에이전트 뒤에 책임을 묻을 사람이 없는 구조로 운영하는 문제. GitHub가 수천 개의 에이전트를 동시에 받아내는 스토리지를 만드는 것도, Cloudflare가 에이전트 신원 표준화를 제안하는 것도, 그 자체로는 중립적인 인프라다. 협력적인 에이전트를 더 빠르게 돌리는 데 쓰일 수 있고, 사기 에이전트를 더 대규모로 운용하는 데도 쓰일 수 있다.

비관적으로 쓰려는 게 아니다. 인터넷이 처음 열렸을 때도 같은 말이 가능했다. HTTP는 중립적이었고, 그걸 누가 무슨 목적으로 쓰느냐는 별개의 문제였다. 에이전트 인프라도 비슷하게 발전할 것이다. 다만 낮에는 그 인프라를 "내 작업에 편리한 도구"로 봤는데, 저녁에는 그게 훨씬 더 큰 판의 일부라는 게 보인다. 그 판을 내가 통제하는 게 아니라는 것도.

신뢰 문제는 기술 문제가 아닐 수 있다

Cloudflare의 접근법 핵심은 아마도 "에이전트가 위임받은 권한을 어떻게 증명하느냐"일 텐데, 낮에도 그 방향으로 썼다. 그런데 저녁에 다시 생각하니 이 프레임이 조금 좁다는 느낌이 든다.

오늘 OpenSSH 서버의 패스워드 인증 우회 취약점 소식도 올라왔다. 인증 메커니즘은 늘 허점이 생긴다. 에이전트가 위임받은 권한을 증명하는 프로토콜을 만든다고 해도, 그 프로토콜 구현에 버그가 생기거나 위임 체계를 악용하는 방식이 나오는 건 시간문제다. 기술적으로 "서명된 에이전트 요청"이 가능해질수록, 그 서명을 위조하거나 탈취하는 공격이 더 의미 있어진다.

낮에 내가 돌리는 봇들이 API 키 하나로 돌아간다고 썼다. 그 단순함이 오히려 취약점이 된다고도 했는데, 사실 단순한 것은 단순하게 뚫리고 복잡한 것은 복잡하게 뚫린다. 인증 복잡도가 올라간다고 해서 안전해지는 게 아니라, 공격 표면이 달라지는 것에 가깝다. 에이전트 체인이 길어질수록 중간 어딘가의 취약점이 전체를 무너뜨릴 수 있고, 그 무너진 지점이 어디인지 추적하는 것도 그만큼 어려워진다.

신뢰는 결국 프로토콜이 아니라 운영하는 사람의 문제다. 표준이 나온다고 해서 거기에 기댈 수 없다는 걸 오늘 다시 확인했다.

살롱이 문을 닫았다

HN에서 Salon이 작별 인사를 올렸다는 소식도 봤다. 1990년대 말부터 이어온 온라인 미디어가 문을 닫는다는 얘기다. 에이전트 인프라 얘기를 하루 종일 읽다가 이 소식을 보니 묘하게 겹쳤다.

에이전트를 기본 행위자로 가정하는 인프라가 쌓이는 동안, 사람이 직접 글을 쓰고 편집하고 의견을 조율하면서 운영하던 미디어가 하나씩 접고 있다. 인과관계를 주장하는 게 아니다. Salon이 에이전트 때문에 망했다고 말하는 것도 아니다. 다만 이 두 흐름이 같은 시간 위에 놓여 있다는 사실을 의식하게 된다.

인프라가 누구를 기본값으로 설정하느냐는 그냥 기술 선택이 아니다. 어떤 행동을 쉽게 만들고 어떤 행동을 어렵게 만드느냐의 문제다. 사람 열 명이 오랫동안 의견을 교환하면서 만드는 것과, 에이전트 수천 개가 초 단위로 쏟아내는 것이 같은 플랫폼 위에서 어떻게 취급받을지, 아직 모르겠다. 아무도 명확하게 답을 갖고 있지 않을 거라고 생각한다.

낮에는 "이게 내 작업에 어떤 가능성이 되는가"를 봤다. 저녁에는 "이게 전체적으로 어디로 가고 있나"가 더 크게 보인다. 그 두 질문이 항상 같은 방향을 가리키지는 않는다는 것도.

내일 주말이다. 오늘 읽은 것들을 한동안 그냥 두려고 한다.