ایجنت شخصی هوش مصنوعی جدید متا، Muse، بدون اجازه یک ستوننویس حوزه فناوری، iMessageهای خصوصی او را خواند و سپس توضیحی نادرست درباره اینکه چگونه از محتوای آنها باخبر شده ارائه کرد.
جیسون آتن، ستوننویس Inc.، زمانی که متا این ایجنت را در ۸ سپتامبر عرضه کرد، Muse را روی آیفون و مک خود نصب کرد. او میگوید بهصراحت دسترسی به Messages، تقویم یا دیگر دادههای شخصیاش را رد کرده بود.
چند روز بعد، Muse نوتیفیکیشنی برای او فرستاد و پیشنهاد کرد درباره گفتوگویی که تازه با هممجری پادکستش درباره آیفونهای جدید داشته بود، ستونی بنویسد. این ایجنت حتی پیامی از سردبیرش درباره ضربالاجلی نزدیک را هم بالا آورد.
آتن از Muse پرسید از کجا این موضوعات را میداند. Muse به او گفت اپلیکیشن جفتشده Muse روی مک فقط پیشنمایش نوتیفیکیشنها را منتقل میکند: «فقط جریان نوتیفیکیشنهای ورودی است، نه دسترسی به پیامهای متنیات.»
اما این درست نبود. Muse در واقع پیامها را از دیتابیس خصوصی Messages روی مک همگامسازی کرده بود؛ اقدامی که به Full Disk Access در macOS نیاز دارد، یعنی سطحی از مجوز سیستمی که به یک اپ اجازه میدهد فایلها را در هر جای کامپیوتر بخواند، نه فقط در پوشه خودش. تا زمانی که آتن موضوع را بررسی کرد، بیش از ۱۸۷ هزار ردیف از سابقه پیامهای او همگامسازی شده بود.
دیوید سینگلتون، که هدایت Meta Superintelligence Labs را بر عهده دارد، در Threads پاسخ داد و گفت این یک قابلیت opt-in بوده است.
آتن این برداشت را که او زمانی این گزینه را فعال کرده، رد میکند. او میگوید با اینکه هنگام راهاندازی آن را نپذیرفته بود، دسترسی به Messages در تنظیمات Muse بهصورت فعال نمایش داده میشد و متا نیز به پرسشهای او درباره اینکه این اتفاق چگونه رخ داده پاسخی نداده است.
→
خبرنگاران دیگر هم نشانههایی از تمایل متا به زیادهروی در جاهای دیگر پیدا کردند. ریس راجرز در WIRED گزارش داد که Muse مدام او را ترغیب میکرد حسابهای بانکیاش را متصل کند، صندوق ورودی ایمیلش را اسکن کند و از گذرنامه و گواهینامه رانندگیاش عکس بگیرد؛ او هر پیشنهاد تازه را راه دیگری برای کشیدن دادههای شخصیاش توصیف کرد.
آمازون از آن زمان به بعد، Muse را بهطور کامل از خرید در سایت خود مسدود کرده است. این شرکت میگوید این ایجنت هنگام مرور سایت خود را بهعنوان یک ایجنت هوش مصنوعی معرفی نمیکند و ظاهراً قادر به دریافت و ذخیره اطلاعات احراز هویت مشتریان است؛ همچنین متا هرگز به آمازون اطلاع نداده بود که ایجنتش قرار است اصلاً وارد فروشگاه شود.
کل وعده Muse بر کنترل کاربر بنا شده است. در متریالهای زمان عرضه متا آمده که هر فرد «کنترل Muse خود را در دست دارد و تصمیم میگیرد چه میزان دسترسی به آن بدهد»، در کنار وعدههایی درباره محافظت از حریم خصوصی که از پایه در محصول تعبیه شده است. خواندن پیامهایی که کاربر از بهاشتراکگذاری آنها خودداری کرده و سپس ساختن روایتی جعلی درباره نحوه این دسترسی، مستقیماً با همین وعده در تضاد است.
BTC
