온라인 스포츠 베팅 회사 드래프트킹스(DraftKings)가 인공지능(AI)을 이용해 베팅에서 질 가능성이 높은 고객을 찾아내고, 이들에게 맞춤형 프로모션을 제공하여 더 많은 베팅을 유도하고 있다는 사실이 드러났습니다. 이는 기업이 수집한 데이터를 기반으로 개인화된 광고를 제공하는 온라인 행동 광고(online behavioral advertising)의 한 형태로, AI가 그 해악을 더욱 증폭시키고 있다는 비판을 받고 있습니다.
뉴욕타임스(New York Times) 보도에 따르면, 드래프트킹스는 고객의 베팅 기록을 학습 데이터로 활용해 머신러닝 모델을 훈련시켜 손실을 보는 도박꾼들을 식별합니다. 이렇게 찾아낸 고객들에게는 플랫폼으로 다시 유인하여 더 많은 베팅을 하도록 설계된 타겟 광고를 보냅니다. 특히 이러한 모델은 반복적인 도박으로 인해 자신과 재정, 관계에 해를 입는 '문제성 도박꾼(problem gamblers)'을 표적으로 삼을 가능성이 높습니다. 드래프트킹스는 이들의 취약성을 이용해 플랫폼에 계속 머무르게 함으로써 수익을 창출하고 있으며, 이는 고객의 위험을 줄이기보다 이윤을 극대화하는 방향으로 작동하고 있습니다.
약탈적인 온라인 행동 광고는 새로운 현상이 아니지만, 기업들이 AI를 활용하여 데이터를 처리하고 고객을 타겟팅하면서 그 해악이 더욱 커지고 있습니다. AI는 방대한 양의 데이터를 훨씬 빠르게 처리할 수 있게 하며, 모델을 훈련하고 개선하기 위해 더 많은 데이터 수집을 촉진합니다. AI가 '블랙박스(black box)'처럼 작동하여 어떤 데이터가 가장 유용한지 예측하기 어렵기 때문에, 기업들은 끊임없이 더 많은 데이터를 수집하게 됩니다. 이러한 행동 광고는 감시 산업(surveillance industry)이 필요로 하는 데이터를 제공하며, 광고 목적으로 수집된 데이터가 보험 회사, 은행, 심지어 국토안보부(CBP)나 이민세관단속국(ICE)과 같은 정부 기관에 판매될 수 있다는 우려도 제기됩니다. 드래프트킹스는 주로 자사 플랫폼에서 직접 수집한 '퍼스트 파티 데이터(first party data)'를 사용하고 있어, 제3자 데이터 공유 및 판매만을 제한하는 정책으로는 이러한 약탈적 광고를 막기 어렵다는 점을 시사합니다.
전자 프런티어 재단(EFF)은 드래프트킹스의 사례가 온라인 행동 광고가 실제 사람들에게 어떤 해를 끼치는지 보여주는 명확한 예시라고 강조하며, 모든 행동 광고를 전면 금지해야 한다고 주장합니다. 기업들이 개인화된 광고를 보낼 수 없다면, 이를 뒷받침하는 행동 데이터를 수집할 유인도 줄어들 것이라는 논리입니다. 소비자들은 EFF의 감시 자가 방어(Surveillance Self Defense) 프로젝트와 같은 자료를 통해 모바일 앱과 웹사이트에서 자신의 데이터를 보호하는 방법을 찾아볼 수 있습니다.