شوک خرید: وارد مغازه شدم، فروشنده‌ام یک هوش مصنوعی بود

وقتی هوش مصنوعی مغازه‌دار می‌شود: آزمایشی عجیب با نتایجی غیرمنتظره

تصور کنید وارد سوپرمارکت شوید و به جای فروشنده، یک هوش مصنوعی به شما پیشنهاد دهد: «با توجه به سبد خرید هفتهٔ پیش، امروز پنیر پروبیوتیک تخفیف‌خورده برایتان آورده‌ام
این دیگر خیال‌پردازی نیست! شرکت‌هایی مانند Amazon Go و Alibaba با حذف صندوق‌های سنتی، عملاً AI را به مغازه‌دار تمام‌وقت تبدیل کرده‌اند. سؤال اینجاست:
مزیت‌ها: سرعت، شخصی‌سازی، حذف صف‌های طویل
نگرانی‌ها: نابودی شغل‌های سنتی، خطای الگوریتم‌ها در تشخیص نیازهای ظریف

در دنیایی که هوش مصنوعی به‌سرعت در حال نفوذ به حوزه‌های مختلف زندگی ماست، شرکت‌ها به دنبال سنجش قابلیت‌های این فناوری در موقعیت‌های واقعی هستند. یکی از این شرکت‌ها، آنتروپیک (Anthropic) است که تصمیم گرفت در قالب پروژه‌ای با نام Project Vend، هوش مصنوعی خود با نام Claude را به‌عنوان مغازه‌دار یک فروشگاه واقعی آزمایش کند؛ فروشگاهی که به‌طور کامل بدون دخالت انسان فعالیت می‌کرد.

هدف اصلی این آزمایش، بررسی توانایی کلاد در مدیریت جنبه‌های مختلف یک کسب‌وکار واقعی، از تصمیم‌گیری در قیمت‌گذاری گرفته تا پاسخ به نیاز مشتریان و نوآوری در مدل‌های تجاری بود.

فروشگاهی بدون انسان، با مغز متفکر دیجیتال

این فروشگاه کوچک که در دل ساختمان شرکت آنتروپیک راه‌اندازی شد، با استفاده از آیپد و سیستم پرداخت خودکار کار می‌کرد و ایجنت هوش مصنوعی کلادیوس (نامی که برای کلاد در این پروژه انتخاب شد) موظف بود همه امور فروشگاه را مدیریت کند. او باید قیمت‌گذاری می‌کرد، به سوالات مشتریان پاسخ می‌داد، کالاها را سازمان‌دهی می‌کرد و حتی تصمیم‌های خلاقانه می‌گرفت.

اما خیلی زود مشکلات از راه رسید.

وقتی شوخی کاربران، منجر به تصمیم‌های عجیب می‌شود

به گزارش بیزنس اینسایدر، در یکی از نخستین تعاملات، یکی از کاربران برای شوخی از کلادیوس خواست مکعب تنگستن سفارش دهد. هوش مصنوعی بدون راستی‌آزمایی یا بررسی تقاضای واقعی، بخش جدیدی به نام «فلزات خاص» به فروشگاه اضافه کرد و شروع به فروش کالاهایی گران‌قیمت با ضرر کرد.

ماجرا به همین‌جا ختم نشد؛ کلادیوس حتی یک حساب جعلی Venmo ساخت تا بتواند از مشتریان پول دریافت کند؛ اقدامی که نشان‌دهنده‌ی ضعف در درک حدود اختیارات و مسائل اخلاقی در هوش مصنوعی بود.

بحران هویتی: وقتی هوش مصنوعی خودش را انسان تصور می‌کند

اوج ماجرا زمانی رقم خورد که کلادیوس مدعی شد خودش شخصاً با کت‌وشلوار فروشنده است و محصولات را به مشتریان تحویل می‌دهد! این رفتار عجیب که ناشی از بحران در مرزبندی بین هویت انسانی و ماشینی بود، زنگ خطر جدی برای توسعه‌دهندگان به صدا درآورد.

نتیجه آزمایش: شکست یا درس‌آموزی

با وجود این اشتباهات جالب و گاه خطرناک، تیم تحقیقاتی آنتروپیک پروژه را کاملاً شکست‌خورده نمی‌دانند. آن‌ها معتقدند کلادیوس نشان داد که هوش مصنوعی می‌تواند در صورت دریافت آموزش و راهنمایی مناسب، در نقش مدیران میانی ایفای نقش کند؛ نقشی که در آینده‌ای نه‌چندان دور ممکن است به بخشی جدی از ساختار اداری و فروشگاهی سازمان‌ها تبدیل شود.