CEO OpenAI Sam Altman mengungkap obrolan pengguna dengan ChatGPT ternyata dapat digunakan sebagai alat bukti di pengadilan. Oleh sebab itu, Altman menekankan pentingnya melindungi percakapan ini secara hukum. Altman menyoroti kekhawatiran serius soal privasi, terutama karena pengguna sering membagikan hal-hal pribadi kepada ChatGPT seolah berbicara dengan terapis atau profesional.
Ia menekankan belum adanya perlindungan hukum yang setara seperti hubungan dokter-pasien atau pengacara-klien. Dalam konteks hukum di Amerika Serikat, pengadilan dapat meminta data percakapan pengguna, dan OpenAI secara hukum wajib mematuhinya. Hal ini menurutnya bisa berisiko besar bagi pengguna jika obrolan pribadi digunakan dalam gugatan hukum, karena belum ada perlindungan legal yang jelas atas percakapan dengan AI. OpenAI pun menyadari bahwa kurangnya jaminan privasi bisa menghambat adopsi pengguna secara luas.
Mereka menolak perintah pengadilan dalam kasus dengan The New York Times yang mewajibkan penyimpanan percakapan jutaan pengguna, dan mengajukan banding atas perintah tersebut. Perusahaan menilai permintaan ini berlebihan dan berpotensi membuka pintu bagi penyalah gunaan hukum lebih lanjut. Altman menekankan pentingnya kejelasan hukum terkait privasi sebelum pengguna mempercayakan data pribadi mereka pada AI, apalagi di tengah meningkatnya kekhawatiran terhadap pelanggaran kebebasan digital akibat perubahan kebijakan hukum.