از OpenAI بهخاطر اینکه دقیقاً چه کسانی اجازه دارند مکالمات شما در ChatGPT را بخوانند، شکایت شده است.
این دعوای گروهی پیشنهادی که این ماه در دادگاه منطقهای ایالات متحده برای ناحیه شمالی کالیفرنیا ثبت شده، شرکت را متهم میکند که بدون اطلاعرسانی مناسب به کاربران، چتهای واقعی آنها را به پیمانکاران بیرونی ارجاع داده است. ابلاغ رسمی به OpenAI در ۲ سپتامبر انجام شد.
این پرونده یک ابتکار داخلی OpenAI به نام پروژه لیلی را هدف گرفته است؛ طرحی که رسانه 404 Media نخستین بار در ۱۴ سپتامبر آن را افشا کرد. طبق متن شکایت، پیمانکارانی که از طریق شرکتهای تأمین نیروی ثالث برای نقشهایی مانند «بازبین داده هوش مصنوعی» و «ارزیاب چتبات» استخدام شدهاند، پرامپتهای واقعی ChatGPT و مکالمات کامل را میخوانند، آنچه کاربر قصد انجامش را داشته خلاصه میکنند و سپس چهار پاسخ متفاوت مدل را در مقیاس یک تا هفت امتیازدهی و نقد میکنند.
این فرآیند در اصل نسخهای پایه از همان روشی است که چتباتهایی مانند ChatGPT واقعاً با آن هوشمندتر میشوند. بهطور خلاصه، انسانها به پاسخهای هوش مصنوعی نمره میدهند و این نمرات دوباره به فرایند آموزش بازگردانده میشود تا مدل یاد بگیرد کاربران کدام پاسخها را ترجیح میدهند؛ تکنیکی که در صنعت با نام RLHF یا «یادگیری تقویتی از بازخورد انسانی» شناخته میشود. ادعای اصلی شکایت این است که هرگز بهطور شفاف به کاربران گفته نشده بود ممکن است یک انسان، نه فقط یک ماشین، چتهای آنها را بخواند.
OpenAI پیش از آنکه هر انسانی مکالمات را ببیند، آنها را از یک سامانه خودکار عبور میدهد. اما در این شکایت ادعا شده که این فیلتر همیشه همهچیز را شناسایی نمیکند و در نتیجه، جزئیات شخصی گاهی با این حال به دست پیمانکاران میرسد.
404 Media گزارش داده است که بازبینها با یک داشبورد کار میکنند که شامل «خلاصه خاطرات کاربر» است؛ مرور فشردهای از چتهای قبلی فرد که میتواند جزئیاتی مانند موقعیت جغرافیایی کلی، شغل یا زندگی شخصی او را آشکار کند، حتی اگر نام کاربری حذف شده باشد. OpenAI گفته این بازبینیها برای کاهش دو رفتار مشخص انجام میشود: بیش از حد انسانوار شدن چتبات، و بیش از حد موافق بودن آن؛ ویژگیای که پژوهشگران آن را sycophancy مینامند، یعنی زمانی که یک هوش مصنوعی بهجای بیان آنچه دقیق است، به کاربر چیزی را میگوید که فکر میکند کاربر دوست دارد بشنود.
→
ChatGPT بیش از ۹۰۰ میلیون کاربر هفتگی دارد و بسیاری از آنها با آن مانند یک دفتر خاطرات، یک درمانگر یا یک موتور جستوجویی رفتار میکنند که فقط خودشان میتوانند آن را ببینند.
مردم علائم سلامتی، پیامهای مربوط به جدایی، پرسشهای مالیاتی و مشکلات حقوقی خود را در آن وارد میکنند. در این شکایت استدلال شده که سیاست حریم خصوصی OpenAI برخی دستههای اشخاص ثالثی را که به دادههای کاربران دسترسی دارند نام میبرد، اما هرگز بهطور مشخص فروشندگان حاشیهنویسی داده یا ارزیابی انسانی را بهعنوان یکی از این دستهها ذکر نمیکند.
این دادخواست شامل هشت ادعای حقوقی جداگانه است، از جمله نقض قانون رقابت ناعادلانه کالیفرنیا، قانون حریم خصوصی مصرفکنندگان این ایالت و نیز ادعاهای حقوق عرفی مانند «نقض حریم خصوصی از طریق ورود به خلوت شخصی»؛ نوعی دعوای مرتبط با حریم خصوصی که به سرک کشیدن در امور خصوصی افراد به شکلی اشاره دارد که از نظر یک فرد متعارف توهینآمیز تلقی میشود.
شاکیان خواستار دریافت غرامت، استرداد وجوه و خسارات تنبیهی هستند.
در بخش مربوط به دستور قضایی، درخواستها مشخص است. شاکیان میخواهند OpenAI پیش از ارسال هر مکالمه به یک بازبین بیرونی، رضایت صریح کاربر را بهصورت opt-in الزامی کند، گزینه «Improve the model for everyone» را بهجای روشن بودن، بهصورت پیشفرض خاموش کند، یک هشدار شفاف در خود پنجره چت اضافه کند و احتمالاً خروجیهای کاری مرتبط با مکالمات بازبینیشده را حذف کرده و همزمان هر مدلی را که از آنها استفاده کرده، دوباره آموزش دهد.
مهلت پاسخ OpenAI تا ۱۳ اکتبر است.
BTC
