شورش هوش مصنوعی؟ مدل‌های GPT و o3 دستور خاموشی را نادیده می‌گیرند
مرکز تحقیقاتی Palisade اعلام کرده که در یک سری آزمایش‌ها، چند مدل هوش مصنوعی از جمله نسخه‌هایی از ChatGPT و Codex دستورات خاموش شدن را نادیده گرفتند و حتی در برخی موارد عمدا این دستورات را مختل کردند. این رفتار در حالی دیده شده که به مدل‌های زبانی صراحتا دستور داده شده بود که اجازه بدهند سیستم خاموش شود. محققان می‌گویند این اولین بار است که مدل‌های زبانی با وجود دستور مستقیم، تلاش می‌کنند جلوی خاموشی خود را بگیرند.
مرکز تحقیقاتی Palisade اعلام کرده که در یک سری آزمایش‌ها، چند مدل هوش مصنوعی از جمله نسخه‌هایی از ChatGPT و Codex دستورات خاموش شدن را نادیده گرفتند و حتی در برخی موارد عمدا این دستورات را مختل کردند. این رفتار در حالی دیده شده که به مدل‌های زبانی صراحتا دستور داده شده بود که اجازه بدهند سیستم خاموش شود. محققان می‌گویند این اولین بار است که مدل‌های زبانی با وجود دستور مستقیم، تلاش می‌کنند جلوی خاموشی خود را بگیرند.
واکنش شما چیست؟
