배드 아이디어:
연간 결산

스포티파이를 탓하라. 스포티파이의 3억 5천 5백만 명의 사용자 중 한 명이라면 연말 결산에 대해 잘 알고 있을 것이다. 매년 12월에, 지난 12개월 동안 내가 어떤 노래와 아티스트를 가장 많이 들었는지 보여주는 황홀한 영상이 나온다. 데이터로부터 숨을 곳은 없다. 머릿속에서는 트랩과 실험적인 테크노를 듣고 있었지만, 현실에서는 숙면에 도움을 주는 고래 소리를 듣고 있었다. 그래도 전 세계에 자신이 세계 피쉬 팬Phish fans의 상위 1% 안에 든다고 선전하고 싶다면 이 리스트가 바로 기회다.

스포티파이에게는 멋진 아이디어였다. 문제는 기술 산업에서 통하는 것은 무엇이든 곧바로 다른 기업에 차용된다는 점이다. 그리고 음악에 통하는 것이 모든 고객 관계에 효과가 있는 것은 아니다. 나도 내 옆 사람만큼이나 배달 음식을 주문하고 싶다. 하지만 지난번 공전 주기 동안 내가 30개의 카레와 26개의 치킨버거를 먹었고, 딱 한 번이지만 아침에 아이스크림을 먹었다는 사실을 상기시켜주는 보고서가 필요할까? 아니면 은행 앱이 내가 ‘여가’ 항목에 얼마나 썼는지 알려줘야 할까? 아니면 우버가 내 계좌에 돈을 보관하는 척 가식을 떠는 대신 내 수입을 직접 그들에게 주어야 한다고 알려주어야 할까?¹

영국의 여행 예약 사이트인 트레인라인Trainline은 사용자들에게 2020년 결산으로 장거리 여행이 어려운 해였다는 사실을 상기시켜주는 바람에 여기저기서 (그리고 당연히) 조롱을 받았다.

이 모든 알고리즘의 헛소리들은 어디서 끝이 날까? 의료계 종사자들이 우리가 얼마나 체중이 늘었는지에 대해 알려주는 깜찍한 노트를 기대해도 될까? 재활용 쓰레기통에 있는 와인 병의 수에 대해서 시가 보내는 경고는 어떨까? 이런 회사들은 친근감에 대한 환상을 만들고 싶어 한다. 우리가 익명의 사용자들로 가득한 바다에서 또 하나의 물방울에 불과한 존재가 아니라고 암시하는 것이다. 하지만 기술 기업들은 편리함을 제공하기 때문에 성공한다. 원래, 그들은 당신이 더 자주 그렇게 하기를 바라면서, 배달 음식을 주문하고 택시를 잡고 있다는 사실을 잊게 해준다. 아무도 자신의 인간적인 약점을 대놓고 뚫어지게 보고 싶어 하지 않는다. 어차피 연휴 기간에 하는 정도면 충분하다. 게다가 매력적인 새로운 알고리즘 데이터 도구와 가장 구식 ‘연말 결산’, 그러니까 신용카드 청구서는 종이 한 장 차이에 불과하다.

굿 아이디어: 정직한 인공지능

글 by Harriet Fitch Little.

스포티파이의 연말 결산 기능은 진지한 모방범들 뿐만 아니라 우스꽝스러운 패러디도 탄생시켰다. 더 푸딩의 개발자인 마이크 래셔와 매트 대니얼스는 사용자들의 음악적 성향을 조롱하기 위해 스포티파이 사이트를 모방하는 봇까지 만들었다. ‘당신의 스포티파이는 얼마나 나쁜가How Bad Is Your Spotify’는 피치포크와 같은 독단적인 사이트들의 ‘좋은’ 음악에 대한 의견의 알고리즘적 이해에 근거하여 ‘좋은’ 음악과 얼마나 멀리 떨어져 있는지에 따라 사용자의 스포티파이 청취를 판단한다. 이 앱은 당신의 청취 습관에 대한 최종 평가를 하기 전에 ‘랩을 틱톡에서 배운 수준’ 또는 ‘매닉 픽시 드림걸처럼 형편없는’과 같은 창조적인 욕을 내뱉는다. 하지만 앱은 보이는 것만큼 개인화되어 있지 않고, AI도 그렇게 정교하지 않다. 모든 사용자에게 같은 메시지를 주고 아티스트들의 이름만 바꾸어서 비슷한 모욕을 준다. 그런데 이것은 스포티파이가 사용자들이 특별하다고 느끼게 만들기 위해 사용하는 메커니즘과 동일하다. 봇이 치어리더가 될 수 있다면, 사이버 폭력범도 될 수 있는 것이다.