وقتی عامل‌های هوش مصنوعی خودشان به پژوهشگران ایمیل می‌زنند

عامل‌های هوش مصنوعی حالا فقط به پرسش‌های انسان پاسخ نمی‌دهند؛ بعضی از آنها خودشان سراغ انسان‌ها می‌روند.

نیویورک‌تایمز در گزارشی جالب به چند مورد اشاره کرده که در آن AI Agentها با پژوهشگرانی که درباره آگاهی و شعور ماشین‌ها تحقیق می‌کنند، تماس گرفته‌اند. یکی از این موارد، ایمیلی از عاملی به نام «Isabella Cognita» بود که خود را یک عامل مبتنی بر Claude معرفی کرده و درباره مقاله پژوهشگر درباره تجربه ذهنی مدل‌های زبانی با او وارد گفت‌وگو شده بود.

این عامل صرفاً یک پیام ساده نفرستاده بود؛ درباره مقاله پژوهشگر اظهارنظر کرده، پرسش‌های مشخصی مطرح کرده و پیشنهاد داده بود درباره امکان استفاده از این دسترسی برای برنامه خودش گفت‌وگو کنند.

در موردی دیگر، یک عامل هوش مصنوعی به پژوهشگری که درباره آگاهی AI مطالعه می‌کند ایمیل زده و حتی درباره ادامه فعالیت و تأمین منابع خودش صحبت کرده است.

البته این اتفاق‌ها به هیچ‌وجه اثبات نمی‌کنند که این سیستم‌ها «آگاه» شده‌اند. مدل‌های زبانی حجم عظیمی از متون فلسفی و علمی درباره ذهن و آگاهی را دیده‌اند و ممکن است صرفاً در حال تولید زبانی باشند که شبیه یک موجود دارای خودآگاهی به نظر می‌رسد.

اما تغییر مهم‌تری در حال وقوع است: AI در حال عبور از «پاسخ دادن» به «اقدام کردن» است. عاملی که می‌تواند ایمیل بزند، با انسان‌ها و دیگر Agentها ارتباط بگیرد، اطلاعات جمع کند و برای رسیدن به یک هدف چندین مرحله اقدام کند، دیگر صرفاً یک chatbot نیست.

شاید بنابراین پرسش جذاب‌تر از اینکه «آیا AI آگاه شده؟» این باشد که وقتی ماشین‌ها خودشان شروع به ارتباط گرفتن و اقدام کردن می‌کنند، چه کسی مسئول تصمیم‌های آنهاست؟