Signal'ın kurucusu Moxie Marlinspike, yeni projesi Confer ile yapay zeka sohbetlerine uçtan uca şifreleme getirerek mahremiyeti yeniden tanımlamayı hedefliyor. Confer, kullanıcıların AI ile yaptığı konuşmaları şifreleyerek, bu verilerin şirket tarafından okunmasını, üzerinde eğitim yapılmasını veya üçüncü taraflarla paylaşılmasını engelliyor. Marlinspike'a göre, bir yapay zeka asistanıyla yapılan sohbetler, tıpkı insanlarla yapılan konuşmalar gibi özel olmalı; bu, özgürce düşünebilmek ve ifade edebilmek için temel bir gereklilik. Yazar, gizliliğin bir suç işlemekle ilgili olmadığını, aksine özgür düşünce için bir ön koşul olduğunu vurguluyor.
Makale, Marshall McLuhan'ın "araç mesajdır" tezini yapay zeka bağlamında ele alıyor. Arama motorlarının işlemsel ve mesafeli bir etkileşim sunmasına karşın, sohbet tabanlı yapay zeka arayüzleri, binlerce yıldır süregelen diyalog algımız nedeniyle samimi bir alan hissi yaratıyor. Bu durum, kullanıcıları düşüncelerini yüksek sesle ifade etmeye, bağlam paylaşmaya ve kişisel detayları açıklamaya teşvik ediyor. Bu samimi arayüz, yapay zekayı aramadan çok daha kullanışlı hale getiriyor; ancak aynı zamanda büyük bir mahremiyet yanılgısını da beraberinde getiriyor.
Marlinspike, yapay zeka asistanlarının bu mahremiyet testinde başarısız olduğunu belirtiyor. Kullanıcılar, özel bir günlük tutar gibi filtrelenmemiş düşüncelerini paylaşıyorlar, ancak bu "günlük" aslında anlam ve bağlam çıkarmak üzere tasarlanmış bir veri gölüne açılan bir API uç noktası. Görsel olarak samimi bir sohbet arayüzü sunulsa da, gerçekte bu, OpenAI yöneticileri, çalışanları, iş ortakları, hizmet sağlayıcıları, potansiyel bilgisayar korsanları ve gelecekteki reklamcılar gibi birçok bilinmeyen tarafın dahil olduğu bir "grup sohbeti" niteliğinde. Yazar, araçların görsel arayüzlerinin, altında yatan teknolojinin çalışma şeklini dürüstçe temsil etmesi gerektiğini vurguluyor.
Yapay zeka sohbet arayüzlerinin yarattığı mahremiyet yanılsaması, kullanıcıların kişisel verilerini farkında olmadan geniş veri göllerine aktarmalarına neden oluyor.