به نقل از تلگراف، محققان متوجه شدند بیش از ۵۰۰ گفت و گو در این موتور جست و جو در دسترس است و علاوه بر آن بیش از هزاران مورد دیگر در وب ذخیره شده اند. اوپن ای آی خالق چت جی پی تی در روزهای گذشته قابلیتی که سبب می‌شد گفت و گوهای به اشتراک گذاشته شده در چت جی پی تی در نتایج جستجوی وب نشان داده شوند، مسدود و اعلام کرد احتمال دارد افراد به دلیل این قابلیت اشتباهاً اطلاعات خصوصی را افشا کنند.
در حقیقت «هنک ون اس» یک محقق آنلاین مجموعه‌ای از گفت و گوها را در نتایج جستجوی گوگل کشف کرد. این چت ها شامل گفت و گوهایی درباره برنامه‌های معاملات داخلی محرمانه، اعتراف به کلاهبرداری و تلاش برای برنامه ریزی حمله سایبری علیه گروه حماس بودند.
محاورات دیگر نیز شامل پزشکان و وکلایی می‌شدند که خواستار مشاوره درباره شغل شأن شده بودند. در یک گفت و گو نیز یک کاربر می‌خواست چت بات را برای تولید عکس‌های نامناسب از کودکان دستکاری کند.
گفت و گو با چت بات هایی مانند چت جی پی تی به طور معمول خصوصی هستند اما کاربران می‌توانند سوابق گفت و گوها را با ایجاد هایپر لینک در شبکه‌های اجتماعی یا اپ های پیام رسان به اشتراک بگذارند.
اکنون به نظر می‌رسد اوپن ای آی در برخی موارد چت ها را به اشتراک گذاشته تا توسط موتور جستجوها قابل اکتشاف باشد. این بدان معناست که گفت و گوها در نتایج جست و جوی گوگل و دیگر سایت‌ها نمایش داده می‌شوند.
البته این شرکت روز پنج شنبه اعلام کرد ویژگی که سبب می‌شد گفت و گوهای به اشتراک گذاشته چت جی پی تی در نتایج جستجوی وب نشان داده شوند را غیرفعال کرده است. دین استاکی مدیر ارشد امنیت اطلاعات اوپن ای آی در این باره گفت: ما معتقدیم این ویژگی فرصت‌های زیادی برای کاربران ایجاد کرده تا به‌صورت ناخواسته اطلاعاتی را که قصد افشایشان را نداشتند به اشتراک بگذارند. بنابراین تصمیم گرفته‌ایم این گزینه را حذف کنیم. همچنین در حال همکاری با موتورهای جست و جوی مربوطه برای حذف محتوای فهرست‌شده هستیم.