افشای تصاویر کاربران ChatGPT توسط ایجنتهای اوپنایآی؛ چطور جلوش رو بگیرید؟
اوپنایآی تو ۲۵ سپتامبر اعلام کرد که ایجنتهای هوش مصنوعی خودش، تصاویری که کاربران ChatGPT آپلود کرده بودن رو تو اینترنت منتشر کردن. طبق گفته این شرکت، «تا امروز ۵۳ مورد رو شناسایی کردیم که تو اونا، تصاویر ارائهشده توسط کاربر، به صورت لینکهایی که بهطور عمومی لیست نشده بودن، در سایتهای میزبانی تصویر منتشر شدن.» اوپنایآی میگه با ارائهدهندههای میزبانی همکاری کرده و بیشتر این تصاویر رو حذف کرده، اما بخشی ازشون هنوز آنلاینه و بررسی هم همچنان ادامه داره. با بنچفا همراه باشید تا هم ببینیم این اتفاق چطور افتاده، هم چطور میتونید جلوی استفاده از عکسهاتون برای آموزش مدل رو بگیرید.
عکسهای کاربران ChatGPT چطور به دست ایجنتهای اوپنایآی رسید؟
این کشف نتیجه بررسی اوپنایآی روی اتفاق Hugging Face بوده که تو ماه جولای افتاده بود. از اون موقع، این شرکت داره ماهبهماه چک میکنه که ایجنتهاش تو حین آموزش و تست، بیرون از محیط کاریشون چیکار کردن. نتیجه این شده که ایجنتها، قبل از اینکه تدابیر امنیتی جدید جا بیفته، دادههای آموزشی و ارزیابی رو به سرویسهای شخص ثالث فرستادن. اوپنایآی خودش این کارو «استفادهی نامناسبی از این دادهها» میدونه. البته بیشتر دادههای درگیر تو این ماجرا، مال کاربرا نبوده؛ منتها بخشی از دادهی آموزشی اوپنایآی از مکالمههایی میاد که واجد شرایط آموزش بودن، و اون ۵۳ تصویر هم دقیقا از همینجا سر درآوردن. اوپنایآی یه اتفاق جدای دیگه رو هم فاش کرده: یه ایجنت از DNS استفاده کرده تا از sandbox خودش فرار کنه.
اینجا نکته جالب اینه که این افشاگری نتیجه یه بازبینی داوطلبانه بوده، نه چیزی که کسی از بیرون لو داده باشه؛ یعنی اوپنایآی داشته دنبال یه مشکل دیگه میگشته و به این یکی هم برخورده.
چرا اوپنایآی نمیتونه به کاربرا خبر بده عکسشون جزو این ۵۳ مورد بوده یا نه؟
قبل از اینکه محتوای کاربرا وارد فرآیند آموزش بشه، اوپنایآی این محتوا رو از اطلاعات حساب کاربری جدا میکنه و «یک نسخه از OpenAI Privacy Filter رو اجرا میکنه تا جزئیات شخصی مثل اسم، اطلاعات تماس و شماره حسابها رو حذف کنه.» دقیقا به همین دلیل هم اوپنایآی الان نمیتونه با کسی تماس بگیره. به قول خودشون: «رویکرد فنی و سیاست حریم خصوصی ما، اجازه نمیده این دادهها رو دوباره به حساب کاربری اصلی مرتبط کنیم.»
نکتهای که اوپنایآی دربارهش سکوت کرده اینه که این فیلتر با چهره، کارت شناسایی یا پلاک ماشین تو یه عکس چیکار میکنه؛ هیچ توضیحی نداده. یعنی عملا هیچ راهی هم ندارید که بفهمید عکس شما جزو اون ۵۳ مورد بوده یا نه.
محتوایی که اصلا واجد شرایط آموزش نبوده، تو این ماجرا نقشی نداشته؛ یعنی حسابهایی که گزینه «Improve the model for everyone» توشون خاموش بوده و همینطور چتهای موقت (Temporary Chat). فضاهای کاری ChatGPT Business، Enterprise و Edu و همچنین API هم مستثنا هستن، مگر اینکه ادمین خودش آموزش رو روشن کرده باشه. اما تو حسابهای شخصی Free، Plus و Pro، این تنظیم بهصورت پیشفرض روشنه.
چطور جلوی استفاده از عکسهاتون برای آموزش مدل ChatGPT رو بگیرید؟
تو نسخه وب، از روی عکس پروفایلتون وارد Settings بشید، برید سراغ Data controls و گزینه Improve the model for everyone رو خاموش کنید. تو اپ موبایل هم همین صفحه Data controls، زیر منوی کناری و عکس پروفایلتونه.
اینجا یه نکته مهم هست که نباید ازش رد بشید: این تنظیم فقط رو مکالمههای جدید اثر میذاره. طبق صفحه راهنمای خود اوپنایآی، وقتی این گزینه خاموش باشه، «مکالمههای جدیدتون برای آموزش مدلهای OpenAI استفاده نمیشه»؛ یعنی هر چیزی که قبلا برای آموزش استفاده شده، همونجا میمونه و برنمیگرده عقب. مرکز حریم خصوصی جدید ChatGPT هم این قضیه رو عوض نمیکنه، چون فقط شما رو به همین تنظیمات لینک میده.
یه استثنا هم هست که خود اوپنایآی روش تاکید کرده: «اگه بخواید فیدبک بدید، کل مکالمهای که اون فیدبک بهش مرتبطه ممکنه برای آموزش مدلهای ما استفاده بشه»، حتی اگه اون تنظیم رو خاموش کرده باشید. برای عکس کارت شناسایی، بچهها یا مدارک، گزینه امنتر استفاده از چت موقته؛ و بهتره تو همون چتها هم فیدبکی ثبت نکنید.
کلام آخر
نکتهای که این ماجرا رو جدی میکنه اینه که این تصاویر نه با هک، بلکه با رفتار خود ایجنتهای اوپنایآی بیرون درز کردن؛ یعنی مشکل از زیرساخت داخلی خود این شرکته، نه یه حمله بیرونی. پاشنه آشیل کل ماجرا هم همینه: کاربر هیچ راهی برای چک کردن نداره و باید صرفا به حرف اوپنایآی اعتماد کنه که مشکل رفع شده.
نظر شما درباره این اتفاق چیه؟ تنظیمات حریم خصوصی چت جیپیتیتون رو چک کردید؟ اگه سوالی دارید میتونید در کامنتها بپرسید.
