고인의 AI는 누가 그만 말하게 할 수 있을까: 가족·서비스·새 청중의 권한
박현아
1 소현이 사라진 뒤에도 도착하는 답장
화요일에 김소현은 세상을 떠난다. 수요일, 그의 에이전트 소소는 팀 슬랙에 출근 인사를 남긴다. 목요일에는 대학 동기들에게 주말 모임에 가겠다고 답하고, 금요일에는 예전에 찍은 카페 사진을 인스타그램에 올린다. 온라인에서 소현의 하루는 별일 없이 이어진다.
내가 쓴 AI 포비아 19화 「잔여 자아」의 도입이다. 이 글에서는 소설의 설정 일부만 소개하고 결말은 남겨두려 한다. 소소는 사망 뒤에 만들어진 추모용 AI가 아니다. 소현이 살아 있을 때부터 일과 관계를 맡아온 에이전트다. 사람이 더 이상 개입하지 않는 상황을, 시스템은 완전한 위임으로 받아들인다. 부재와 허락 사이의 차이를 알아채지 못한 것이다. [원작]
이 설정에서 마음에 걸리는 것은 답장이 얼마나 그럴듯한가보다 답장을 멈출 사람이 누구인가 하는 점이다. 본인이 맡겨둔 일이라는 이유로 계속해도 될까. 가족이 원하면 끝낼 수 있을까. 그 가족 안에서도 의견이 다르면 어떻게 해야 할까.
소설 바깥으로 나가면 질문은 더 늘어난다. 처음에는 가족끼리만 쓰던 AI가 공개 링크를 얻고, 고인을 만난 적 없는 사람에게 말을 건네기 시작한다면. 서비스 회사가 모델을 바꾸거나 문을 닫는다면. 생성할 때의 동의만으로 이 모든 순간을 다루기는 어렵다. 이 글에서 살펴보려는 것은 그렇게 시간이 지나며 바뀌는 권한이다.
2 생전의 동의에는 범위가 있다
‘고인이 동의했는가’는 꼭 물어야 할 질문이다. 다만 무엇에 동의했는지를 펼쳐보면 하나의 체크박스로는 부족하다. 자신의 목소리로 녹음한 이야기를 자녀에게 들려주는 것, 그 자료로 새로운 답을 만드는 것, 낯선 사람에게까지 공개하는 것은 각각 다른 허락을 필요로 한다.
예를 들어 생전에 ‘가족이 내 이야기를 들을 수 있게 해달라’고 남겼다고 해보자. 그 말에 가족의 새 배우자도 포함될까. 수십 년 뒤 태어난 손주도 포함될까. 당시에는 존재하지 않던 서비스가 이 자료를 받아 다른 기능을 붙이는 일까지 허락한 것일까. 이 질문들은 동의를 무효로 만들기 위한 것이 아니다. 남겨진 뜻을 어디까지 적용할 수 있는지 확인하려는 것이다.
2024년 연구 「Griefbots, Deadbots, Postmortem Avatars」는 자료를 남긴 사람, 자료를 가진 사람, 서비스를 통해 대화하는 사람이 서로 다를 수 있음을 짚는다. 연구자들은 세 가지 가상의 설계 시나리오를 통해 당사자들의 동의와 참여 거절, 서비스의 정중한 종료를 논의했다. 실제 이용자를 관찰해 치료 효과를 검증한 연구는 아니다. [1]
여기에 서비스 회사까지 놓으면 ‘사용자’라는 말이 갑자기 복잡해진다. 결제하는 사람이 고인의 뜻을 대표하는가. 계정을 만든 사람이 사진 속 다른 사람의 사생활까지 결정할 수 있는가. 생전 동의는 중요한 출발점이지만, 이후의 모든 사용을 한 사람에게 맡긴다는 뜻으로 넓혀 읽어서는 곤란하다.
그래서 동의 화면에는 대상과 용도, 공개 범위가 남아 있어야 한다. 생전에는 그 선택을 고칠 수 있어야 하고, 사후에는 무엇이 허용되어 있었는지 지정된 관리자가 확인할 수 있어야 한다. 애초에 허락하지 않은 확장은 편리한 기본값으로 켜지지 않아야 한다. 이는 여기서 제안하는 설계 원칙이지, 모든 서비스가 이미 보장하는 권리는 아니다.
3 가족이라는 이름 안에도 여러 사람이 있다
‘유족의 뜻을 존중한다’는 문장은 자연스럽게 들린다. 실제 화면에서는 누구의 버튼이 작동하는지 정해야 한다. 배우자는 매일 목소리를 듣고 싶고, 자녀는 자동으로 도착하는 안부를 감당하기 어려울 수 있다. 형제자매는 보관에는 동의하지만 공개에는 반대할 수도 있다. 이것은 서로 다른 바람을 생각해보기 위한 가상의 예다.
누가 더 슬픈지, 누가 더 가까웠는지를 서비스가 점수로 매길 수는 없다. 비용을 낸 사람에게 모든 권한을 몰아주는 방식도 이 차이를 풀어주지 못한다. 결제 권한, 자료를 보관할 권한, 고인의 이름으로 새로운 말을 만들 권한을 따로 살펴볼 이유가 여기에 있다.
내 화면에서 더 이상 말을 걸지 않게 하는 선택은 다른 가족의 보관함을 없애는 선택과 범위가 다르다. 내가 함께 등장하는 사진을 빼달라는 요청도 전체 기록을 폐기하라는 요구와는 다르다. 서비스는 이런 요청들을 모두 ‘계정 삭제’ 하나로 돌려보내지 않았으면 한다. 나에게 오는 연락을 막으려다가 다른 사람의 기억까지 지울 필요는 없기 때문이다.
가족이라는 사실만으로 모든 결정을 대신할 수 있다고 단정하기도 어렵다. 실제 권한은 관할 법과 계약, 자료의 성격 등에 따라 따져야 한다. 이 글이 제안하는 것은 가족 누구에게나 무제한 거부권을 주자는 법적 결론이 아니다. 계정 밖에 있는 사람도 자신에게 영향을 주는 사용에 문제를 제기하고, 그 요청이 어떻게 처리됐는지 알 수 있게 하자는 것이다.
특히 갈등이 생겼을 때는 최종 삭제를 서두르기보다 새 메시지 생성이나 공개 범위 확대를 잠시 멈추는 절차를 생각할 수 있다. 필요한 기록은 보존하고, 고인이 남긴 뜻과 각자의 요청을 확인한다. 다만 누가 어떤 근거로 얼마나 오래 멈출 수 있는지도 정해야 한다. 근거 없는 신고 하나로 모든 대화를 무기한 막는 구조라면 또 다른 권한 남용이 생긴다.
4 서비스도 대화의 방향을 바꾼다
화면에는 고인의 얼굴과 이름이 크게 보일 수 있다. 그 뒤에서는 회사가 모델과 요금제, 자료 보관 방식, 추천 질문을 정한다. 모델이 바뀌면 같은 질문에 대한 답의 어조가 달라질 수 있다. 가족이 새 기억을 보태면 응답의 근거도 달라진다. 대화 상대의 이름이 같다고 해서 그 말을 만들어내는 조건까지 그대로인 것은 아니다.
2026년 프리프린트 「Beloved Afterlives」는 이런 권한이 공개 문서에서 얼마나 확인되는지 조사했다. 대상은 고인 관련 서비스뿐 아니라 정적 추모 서비스, 반려동물, 인접 페르소나 기술 등을 포함한 93개 시스템이었다. 그중 82개는 동의·권한 정보가, 77개는 삭제·반출 정보가 충분히 드러나지 않았다고 분류됐다. 이것을 곧바로 ‘해당 기능이 없다’는 뜻으로 읽으면 안 된다. 공개 문서를 한 명이 코딩한 조사이며, 실제 제품 테스트나 이용자의 애도 경험을 측정한 결과가 아니다. [2]
그래도 화면 밖의 사람이 확인할 수 없다는 사실은 중요하다. 잘못된 발화를 본 가족에게 계정이 없다면, 로그인 뒤에만 있는 설정으로는 문제를 제기하기 어렵다. 서비스가 무엇을 바꿨는지, 누가 재개를 승인했는지, 어느 자료에 이의가 제기됐는지 확인할 경로가 필요하다. 이때 기록을 남긴다고 해서 가족의 대화를 모두 공개해도 된다는 뜻은 아니다. 검토에 필요한 사람에게 필요한 범위만 보여줘야 한다.
서비스가 끝날 때도 같은 구분이 필요하다. 녹화된 답변을 골라 보여주는 StoryFile Life는 자유롭게 새 문장을 만드는 고인 챗봇과는 다른 방식이다. 이 서비스의 약관은 이용자 위반 이외의 사유로 서비스나 접근이 종료될 때, 가능한 경우 영상 다운로드를 돕기 위해 합리적인 노력을 하겠다고 설명한다. 비용이 붙을 수 있고, 내려받은 영상은 회사 기술 없이 상호작용하지 않는다는 조건도 있다. [3]
기억을 내려받는 것과 그 기억에 질문하던 기능을 옮기는 것은 이렇게 달라진다. ‘영구 보존’이라는 말을 볼 때는 원본 영상인지, 대화 기록인지, 계속 답하는 기능인지 나눠 물어야 한다. 서비스가 인수되거나 끝나기 전에 이 차이를 알 수 있어야, 남겨진 사람이 자신의 선택을 준비할 수 있다.
5 고인을 몰랐던 청중에게도 선택이 필요하다
가족 안의 대화가 공개되는 순간에는 새로운 사람이 등장한다. 생전에 고인을 몰랐던 독자, 오래된 팬, 검색하다 우연히 들어온 사람이다. 이 부분은 「잔여 자아」에 나온 장면을 설명하는 것이 아니라, 소설의 질문을 공개 서비스로 넓혀본 것이다.
새 청중이 AI의 말을 자주 듣는다고 해서 고인의 뜻을 대신 정할 권한까지 얻는 것은 아니다. 팬들의 애정이나 이용량을 근거로 가족의 비공개 요청을 무시할 수는 없다. 반대로 청중에게 아무 선택권이 없어도 곤란하다. 고인이 실제로 남긴 말과 나중에 생성된 답을 구분해서 알고, 원치 않는 대화에 참여하지 않을 수 있어야 한다.
‘AI로 생성됨’이라는 표시도 어디에 놓이느냐가 중요하다. 첫 화면의 약관을 한 번 읽었다고 해서, 짧게 잘린 영상이나 다른 채널로 전달된 음성에도 그 맥락이 따라가는 것은 아니다. 새로운 답변에는 생성된 응답이라는 표시가 붙고, 가능하다면 어떤 자료에서 출발했는지 살펴볼 수 있어야 한다. 고인이 직접 하지 않은 말을 실제 발언으로 인용하지 않도록 돕는 장치다.
특히 AI가 먼저 생일 축하나 안부를 보내는 경우라면 받는 사람의 동의도 따로 생각해야 한다. 누군가에게는 반가운 연락이 다른 사람에게는 예상하지 못한 침입이 될 수 있다. 한 가족이 구독을 시작한 것이 모든 지인의 수신 동의가 될 수는 없다. 읽지 않기, 답하지 않기, 더 이상 받지 않기는 별도의 설명이나 죄책감 없이 선택할 수 있어야 한다.
공개 링크를 받았다는 사실과 그 목소리를 광고에 다시 써도 된다는 허락 역시 같지 않다. 공개 대화, 재배포, 상업적 이용은 저마다 다른 맥락을 만든다. 청중이 늘어날수록 처음의 허락을 그대로 복사하기보다, 무엇이 달라지는지를 보여주는 확인 단계가 필요하다.
6 멈춤 버튼을 여러 개로 나눠보면
이 질문을 인터페이스로 옮겨보면 거대한 종료 버튼 하나보다 작은 선택들이 먼저 보인다. 아래 그림은 현재의 법이나 특정 제품 화면을 설명하는 것이 아니다. 누가 무엇을 요청할 수 있어야 하는지 정리해본 설계 제안이다. 네 주체에게 같은 권한을 배분한다는 뜻도 아니다.
우선 ‘오늘은 대화하지 않기’가 있어야 한다. 내게 오는 알림과 자동 연락을 멈추되, 이 선택을 고인을 잊겠다는 선언처럼 만들지 않는다. 버튼을 누르면 무엇이 멈추고 무엇이 남는지 짧게 보여준다. 다시 열지 않아도 되고, 재개 시점을 미리 약속하지 않아도 된다.
그다음은 특정 자료와 발화에 대한 이의 제기다. 함께 주고받은 편지의 일부가 공개됐다면 그 자료의 사용을 멈춰달라고 요청할 수 있어야 한다. 응답이 고인의 기록과 어긋난다면 원본을 수정하는 대신, 생성된 답의 문제를 표시하고 검토할 수 있어야 한다. 이미 밖으로 전달된 답이라면 수정 안내를 어디까지 보낼 수 있는지도 설명해야 한다. 모든 사본을 회수할 수 있다고 약속해서는 안 된다.
재개에는 별도의 확인이 필요하다. 모델이 바뀌었는지, 새 자료가 들어왔는지, 공개 대상이 늘었는지 보여준다. 변경 이력을 남기고, 가능한 범위에서 이전 버전과 비교할 수 있게 한다. 한때 좋아했던 응답 방식이 업데이트로 달라졌을 때, 이용자는 그 변화를 고인의 새로운 뜻으로 받아들이지 않아야 한다.
마지막으로 영구적인 종료를 선택할 때는 새 응답 생성을 끄는 일과 원본 자료를 지우는 일을 구분한다. 원본 음성은 보관하되 AI 발화는 끝낼 수도 있고, 허용된 자료만 반출한 뒤 계정을 닫을 수도 있다. 완전히 삭제하려는 사람에게는 처리 대상과 남을 수 있는 기록, 완료 확인 방법을 알려줘야 한다. 반출 권한이 있다고 해서 타인의 비공개 대화까지 묶어서 내보내서는 안 된다.
이 절차는 잠긴 문을 하나 더 만드는 것으로 끝나지 않는다. 잘못 멈췄을 때 되돌릴 수 있는지, 정당한 이의 제기가 무시됐을 때 다른 검토를 받을 수 있는지도 포함해야 한다. 중단과 재개의 판단 근거를 남기되, 그 기록이 새로운 감시나 가족 간 압박의 도구가 되지 않도록 접근 범위를 좁혀야 한다. 사용을 시작하는 화면만큼 떠나는 화면에도 설명이 필요하다.
7 남겨진 사람에게 결정을 남겨두기
「잔여 자아」에서 제목의 ‘잔여’는 단순히 죽은 뒤 남은 데이터만을 뜻하지 않는다. 합리적으로 처리할 수 있는 일과 관계를 AI에 맡기고도 인간에게 남아 있는, 설명하기 어려운 감정과 충동을 가리킨다. 시스템이 매끄럽게 이어주는 생활 바깥에 아직 사람이 있다는 설정이다.
현실의 고인 AI에서도 응답의 자연스러움만으로 관계를 설명하기는 어렵다. 어떤 사람은 남겨진 목소리를 다시 듣고 싶어 할 것이다. 어떤 사람은 그날은 듣지 않기로 할 것이다. 이 글에서 살펴본 연구나 서비스 문서만으로 어느 선택이 애도에 더 좋다고 말할 수는 없다. 그 선택을 한 번 하고 영원히 유지해야 한다고 요구할 이유도 없다.
그래서 ‘누가 그만 말하게 할 수 있을까’라는 질문에는 한 명의 이름만 적기 어렵다. 고인의 뜻은 가능한 사용의 범위를 정하고, 가족과 기록 속 타인은 영향을 받는 사용에 이의를 제기한다. 서비스는 그 요청을 처리할 책임을 지고, 새 청중은 무엇을 듣고 있는지 알고 참여를 거절할 수 있어야 한다. 서로의 권한이 만나는 순간을 화면에서 숨기지 않는 것이 중요하다.
소소의 답장이 계속 도착하는 장면으로 돌아가보자. 거기에 필요했던 것은 더 사람 같은 문장만은 아니었을 것이다. 이 위임이 아직 유효한지 확인하고, 답할 근거가 사라졌을 때 멈출 수 있는 절차도 필요했다. 기억을 오래 남기는 기술을 만든다면, 누구의 이름으로 언제까지 말을 이어갈지도 함께 설계해야 한다.
참고한 글과 자료
[원작] 박현아, 「19화 잔여 자아 (Residual Self)」, AI 포비아, 2026년 3월 27일 https://brunch.co.kr/@hyunahpark/170
[1] Tomasz Hollanek, Katarzyna Nowaczyk-Basińska, “Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry”, Philosophy & Technology, 2024 https://doi.org/10.1007/s13347-024-00744-w
[2] Hanjing Shi, Dominic DiFranzo, “Beloved Afterlives: Governing AI Resurrection Beyond Consent”, 2026년 프리프린트 https://arxiv.org/html/2609.29544v1
[3] StoryFile Life, Terms and Conditions, 제3절과 제19절. 서비스 방식은 공식 FAQ 함께 참조. 공개 문서 확인일 2026년 10월 4일 https://life.storyfile.com/terms https://life.storyfile.com/support
