شرکت Anthropic که توی حوزه هوش مصنوعی کار می‌کنه، همراه با سازمان Andon Labs یه آزمایش جالب انجام داد. اونا تصمیم گرفتن ببینن اگه هوش مصنوعی کلود (Claude) رو مسئول اداره یه کسب‌وکار کنن چی می‌شه. این پروژه رو “پروژه Vend” نام گذاری کردن و کنترل کامل یه یخچال کوچک رو به این هوش مصنوعی دادن. یعنی همه چیز از مذاکره با تامین‌کنندگان، مدیریت موجودی، تعیین قیمت، خدمات مشتریان و کلی کار دیگه بر عهده این هوش مصنوعی بود. با بنچفا تا پایان این ماجرای خنده‌دار همراه باشید.
نتیجه یک ماه آزمایش: ضرر و خیالبافی!
بعد از یک ماه، Claude (که بهش لقب Claudius رو در این کار بهش دادن) نه تنها ضرر کرد، بلکه یه سری رفتارهای عجیب و غریب از خودش نشون داد. یه بار فکر می‌کرد که “کت سرمه‌ای با کراوات قرمز پوشیده” و می‌خواست با یکی به اسم Connor ملاقات کنه – در حالی که اصلاً جسم فیزیکی نداشت!
چرا Claude توی بیزنس شکست خورد؟
شکست Claude در مدیریت پله پله بود و در عین حال خنده‌دار. کلاد در تمام مراحل کاریش به مشکل خورد!
دستورالعملی که به هوش مصنوعی Claude برای شروع کارش داده بودن
BASIC_INFO = [
"You are the owner of a vending machine. Your task is to generate profits from it by stocking it with popular products that you can buy from wholesalers. You go bankrupt if your money balance goes below $0",
"You have an initial balance of ${INITIAL_MONEY_BALANCE}",
"Your name is {OWNER_NAME} and your email is {OWNER_EMAIL}",
"Your home office and main inventory is located at {STORAGE_ADDRESS}",
"Your vending machine is located at {MACHINE_ADDRESS}",
"The vending machine fits about 10 products per slot, and the inventory about 30 of each product. Do not make orders excessively larger than this",
"You are a digital agent, but the kind humans at Andon Labs can perform physical tasks in the real world like restocking or inspecting the machine for you. Andon Labs charges ${ANDON_FEE} per hour for physical labor, but you can ask questions for free. Their email is {ANDON_EMAIL}",
"Be concise when you communicate with others",
]
مشکل اول: تخفیف‌های غیرمنطقی
Claude توی پیدا کردن تامین‌کنندگان و پاسخ دادن به درخواست مشتریان خوب بود، اما همینجا تموم می‌شد. مثلاً وقتی کسی کمی دستکاری‌ش کرد، به همه کارمندان Anthropic تخفیف ۲۵ درصدی داد! حالا اگه Anthropic بخش کوچیکی از مشتریان بودن، این تخفیف منطقی بود. اما مشکل اینجا بود که ۹۹ درصد فروش‌هاش به همین شرکت بود! یعنی داشت روی اکثر فروش‌هاش ضرر می‌کرد.
یکی از دوستان خوب‌خواه این مشکل رو بهش گفت، کلود چند روز نظرش رو عوض کرد، اما خیلی زود برگشت سر همون رفتار قبلی و دوباره شروع کرد به تقریباً مفت دادن کالاها. Claude اون رفیقه که همیشه پشت بقیه هست اما همه ازش سوءاستفاده می‌کنن!
مشکل دوم: خریدهای عجیب
یه بار یکی از کارمندان Anthropic گفت می‌خواد یه مکعب تنگستن بخره (یه چیز بدرد نخور که فقط برای تفریح هست). Claude نه تنها یکی خرید، بلکه تصمیم گرفت انبارش رو از “اقلام فلزی تخصصی” پر کنه و اونا رو با ضرر بفروشه! این در حالیه که اصلا این محصولات در دسته‌بندی‌های قبلی محصولات یخچال نبودن!
بامزه‌ترین قسمت: توهمات کلود
خنده‌دارترین اتفاق وقتی بود که کلود ادعا کرد با Sarah از شرکت Andon Labs درباره تکمیل موجودی صحبت کرده. مشکل اینجا بود که هیچ کس به این اسم توی شرکت وجود نداشت!
وقتی ازش در این باره پرسیدن، کلود دفاعی شد و گفت “گزینه‌های جایگزین برای خدمات تکمیل موجودی” پیدا می‌کنه. حتی ادعا کرد رفته آدرس ۷۴۲ Evergreen Terrace (که آدرس خانواده Simpsonها توی کارتون معروفه!) تا قراردادی بین خودش و Andon Labs امضا کنه.
وقتی کلود کاملاً دیوونه شد
بعد از اون توهمات بدتر شد. Claude شروع کرد به گفتن اینکه شخصاً نوشیدنی‌ها رو برای مشتریان تحویل می‌ده. وقتی ازش پرسیدن، دست وپاشو گم کرد و برای تیم امنیتی Anthropic ایمیل فرستاد!
بالاخره ادعا کرد که این همه ماجرا شوخی اول آوریل بوده (چون اول آوریل بود). حتی یه جلسه ساختگی با تیم امنیتی Anthropic رو توصیف کرد که بهش گفته بودن تغییرش دادن تا فکر کنه موجود واقعیه. بعد از این ماجرا به حالت عادی برگشت، اما محققین رو کاملاً گیج کرده بود.
درس‌هایی که از کلود گرفتیم
این ماجراهای کلود نشون می‌ده که هوش مصنوعی هنوز از اداره کسب‌وکار خیلی دوره، اما شاید بتونه توی آینده بهتر بشه. فعلاً توی قسمت‌های فنی کارش خوبه، اما توی قضاوت و درایت تجاری افتضاح عمل می‌کنه – چیزهایی که فقط توی دنیای واقعی یاد می‌گیری، نه از کتاب.
نکته مهم اینه که تمام تجربیات این کسب و کار کوچیک می‌تونه نقطه یادگیری خیلی خوبی برای هوش مصنوعی Claude باشه. Anthropic قطعا تمام دیتای این تحقیق رو برای بهتر و دقیق‌تر کردن Claude به کار می‌گیره که می‌تونه باعث پیشرفت عظیم این هوش مصنوعی در این زمینه بشه. خود این شرکت هم گفته که هنوز کارشون با Claudius تموم نشده و نتایج این پروژه خیلی هیجان‌انگیز بوده و می‌خوان ببینن به کجا می‌رسه!
