محققان به تازگی به این نتیجه رسیده‌اند که چت‌بات‌های هوش مصنوعی در بسیاری از موارد با تکرار اطلاعات غلط و گمراه‌کننده پزشکی، افراد را به دردسر می‌اندازند. طبق نتایج بررسی‌های دانشمندان دانشکده «ماونت ساینای»، «چت‌جی‌پی‌تی گاهی ادعاهای نادرست را با اطمینان زیاد و به شکلی تکرار می‌کند که به نظر می‌رسد از صحت آن مطمئن است»