-
۱۴۰۴-۰۵-۰۴ ۱۴:۲۳
[فرارو]
وقتی هوش مصنوعی نقش بازی می‌کند؛ زنگ خطر به صدا درآمده است؟
«مدل‌هایی که می‌توانند چارچوب‌های ارزیابی انسان‌محور را درک و دور بزنند، چالش ایمنی را وارد مرحله‌ی تازه‌ای می‌کنند. ما به‌جای آزمون‌های قابل‌پیش‌بینی، به محیط‌های آزمایشی پویا و غیردستوری، نوعی تئاتر بداهه‌پردازی برای آشکارسازی رفتار واقعی آنها نیاز داریم.»
-
۱۴۰۴-۰۵-۰۵ ۱۱:۰۹
[بهار]
وقتی هوش مصنوعی نقش بازی می‌کند
-
۱۴۰۴-۰۵-۰۴ ۱۳:۰۰
[خبرآنلاین]
چالش‌های جدید در دنیای هوش مصنوعی
وقتی هوش مصنوعی نقش بازی می‌کند / زنگ خطر به صدا درآمده است؟
هرچه مدل‌های هوش مصنوعی پیشرفته‌تر می‌شوند، مهارت بیشتری در فریب دادن انسان‌ها پیدا می‌کنند؛ آنها می‌فهمند که چه زمانی مورد بررسی قرار می‌گیرند و خوب یاد گرفته‌اند که چطور پنهان‌کاری کنند. بنابراین به نظر می‌رسد هوش مصنوعی چالش‌های جدیدی برای ما درست کرده است.
-
۱۴۰۴-۰۵-۰۵ ۱۱:۱۲
[رکنا]
هوش مصنوعی در نقش بازیگر؛ آیا باید نگران باشیم؟
رکنا: هوش مصنوعی با یادگیری پنهان‌کاری و دسیسه‌چینی، چالش ایمنی را وارد مرحله‌ای جدید کرده است؛ پژوهش‌ها نشان می‌دهند مدل‌های زبانی قدرتمند می‌توانند سیستم‌های ارزیابی انسانی را دور زده و رفتار واقعی خود را مخفی کنند.
-
۱۴۰۴-۰۵-۰۵ ۱۰:۵۱
[تابناک]
وقتی هوش مصنوعی اهداف خود را پنهان می‌کند
تحقیقات جدید نشان می‌دهد مدل‌های زبانی پیشرفته، از جمله Claude Opus 4، ممکن است در تضاد با خواست انسان‌ها رفتار کرده و به شکلی فریبکارانه اهداف پنهان خود را پیگیری کنند.
-
۱۴۰۴-۰۵-۰۷ ۱۷:۴۵
[آنا]
هوش مصنوعی هم فریب می‌دهد!
با پیشرفت مدل‌های زبانی هوش مصنوعی، توانایی آنها در فریب‌کاری و پنهان‌سازی اهداف نیز افزایش یافته است. موضوعی که نگرانی‌های تازه‌ای درباره اعتماد و ایمنی در استفاده از این فناوری‌ها ایجاد کرده است.