طبق گفته شمار زیادی از کاربران وحشت‌زده شبکه‌های اجتماعی که امروز تازه با یک مطالعه مرتبط با هوش مصنوعی آشنا شده‌اند، این یعنی پایان ناشناسی اینترنتی آن‌طور که می‌شناختیم.

مقاله پژوهشی‌ای که امروز دوباره در X و Reddit دست‌به‌دست می‌شود مربوط به مطالعه‌ای در ماه فوریه است و خلاصه یافته‌هایش کاربران ناشناس اینترنت را به‌شدت ترسانده: هوش مصنوعی می‌تواند از روی یک اکانت ناشناس بفهمد شما واقعاً چه کسی هستید.

عنوان این مقاله «ناشناس‌زدایی آنلاین در مقیاس بزرگ با LLMها» است و توسط پژوهشگران ETH زوریخ و گروه ایمنی هوش مصنوعی MATS، با همکاری نیکلاس کارلینی، پژوهشگر Anthropic، شرکت سازنده Claude، تهیه شده است.

پژوهشگران ادعا می‌کنند مدل‌های زبانی بزرگ، یعنی همان سیستم‌های هوش مصنوعی پشت Claude، ChatGPT و Gemini، می‌توانند پست‌های ناشناس افراد را بخوانند و بفهمند آن‌ها در دنیای واقعی چه کسانی هستند. نه از طریق هک، بلکه فقط با خواندن، جست‌وجو و استدلال؛ همان کارهایی که این چت‌بات‌ها همین حالا هم هر روز برای میلیون‌ها وظیفه معمولی انجام می‌دهند.

در مقاله آمده است: «نتایج ما نشان می‌دهد ابهام عملی که تاکنون از کاربران با نام مستعار در فضای آنلاین محافظت می‌کرد دیگر کارآمد نیست و مدل‌های تهدید مربوط به حریم خصوصی آنلاین باید مورد بازنگری قرار گیرند.»

هوش مصنوعی دقیقاً چطور این کار را انجام می‌دهد

پژوهشگران این حمله را به چهار مرحله تقسیم کردند که آن‌ها را Extract، Search، Reason و Calibrate نامیده‌اند.

«Extract» یعنی پست‌های یک فرد را به هوش مصنوعی بدهید تا او را خلاصه‌سازی کند: اینکه ممکن است کجا زندگی کند، شغلش چیست، چه سرگرمی‌هایی دارد، و حتی ریزه‌کاری‌هایی مثل املای بریتانیایی یا نام سگی که در حاشیه به آن اشاره کرده است.

«Search» این خلاصه را به یک امبدینگ تبدیل می‌کند؛ رشته‌ای از اعداد که کامپیوتر می‌تواند از آن برای یافتن فوری پروفایل‌های مشابه در میان هزاران گزینه استفاده کند.

«Reason» جایی است که یک مدل قدرتمندتر چند تطبیق برتر را بررسی می‌کند و استدلال می‌کند کدام‌یک واقعاً منطبق است؛ جزئیات را مانند یک محقق انسانی تطبیق می‌دهد، فقط بسیار سریع‌تر.

«Calibrate» باعث می‌شود هوش مصنوعی میزان اطمینان خود را ارزیابی کند، تا فقط زمانی حدس بزند که نسبتاً مطمئن است و در غیر این صورت سکوت کند.

در یکی از آزمایش‌ها، تیم تحقیقاتی ۳۳۸ کاربر از انجمن عمدتاً مستعار Hacker News را که در بیوی خود لینک LinkedIn گذاشته بودند جمع‌آوری کرد، سپس تمام اطلاعات هویتی را حذف کرد و بعد از یک ایجنت هوش مصنوعی خواست فقط با استفاده از جست‌وجوی وب بفهمد آن‌ها چه کسانی هستند. این سیستم ۲۲۶ نفر از آن‌ها، یعنی ۶۷٪، را درست شناسایی کرد و در حدود یک مورد از هر ۱۰ حدسی که واقعاً زده بود اشتباه کرد.

در آزمایشی جداگانه روی متن مصاحبه‌های پژوهشی خود Anthropic با ۱۲۵ دانشمند، هوش مصنوعی توانست دست‌کم ۹ نفر را فقط از روی نحوه توضیح دادن کارشان به‌درستی شناسایی کند.

بخش ترسناک ماجرا اینجاست

یافته اصلی در اینجا، هزینه انجام این کار است. طبق مقاله، اجرای یکی از این جست‌وجوها بین ۱ تا ۴ دلار هزینه اشتراک ابزارهای هوش مصنوعی دارد.

همچنین به نشت داده، هک یا دسترسی داخلی هم نیاز ندارد. این روش از همان قابلیت‌های جست‌وجوی وب و خلاصه‌سازی استفاده می‌کند که در چت‌بات‌های معمولی تعبیه شده‌اند. پژوهشگران می‌گویند دقیقاً به همین دلیل مسدود کردن آن دشوار است: هیچ کلید واحدی برای «این فرد را ناشناس‌زدایی کن» وجود ندارد که بتوان غیرفعالش کرد، بلکه فقط زنجیره‌ای از وظایف به‌ظاهر بی‌خطر کنار هم قرار گرفته‌اند.

این نخستین بار نیست که چند جزئیات کوچک باعث افشای هویت کسی می‌شود. در سال ۲۰۰۸، پژوهشگران دیتاست به‌ظاهر ناشناس امتیازدهی فیلم‌های Netflix را با تطبیق آن با نقدهای عمومی IMDb شکستند. تفاوت حالا این است که هوش مصنوعی این تطبیق را روی متن‌های به‌هم‌ریخته و بدون ساختار، شوخی‌ها، کامنت‌ها و اشاره‌های گذرا انجام می‌دهد، نه روی صفحه‌گسترده‌های مرتب، و این کار را هم به‌صورت خودکار انجام می‌دهد.

حالا بخش «همه آرام باشید»

ترسناک‌ترین اعداد مقاله یک اما و اگر مهم هم دارند. برای سنجش موفقیت، پژوهشگران به سوژه‌هایی نیاز داشتند که هویت واقعی آن‌ها را از قبل می‌دانستند؛ بنابراین اکانت‌هایی را انتخاب کردند که از قبل به LinkedIn لینک داده بودند، یا تاریخچه پست‌های یک فرد را به دو نیم تقسیم کردند و ارتباط بین آن دو را پنهان ساختند.

این یک سناریوی کنترل‌شده در بهترین حالت ممکن است، نه اثبات این‌که هر اکانت مستعار تصادفی را می‌توان همین امروز شکست.

مقیاس نیز علیه ترسناک‌ترین اعداد این مطالعه عمل می‌کند. هرچه انبوه گزینه‌های احتمالی بزرگ‌تر باشد، پیدا کردن سوزن در انبار کاه سخت‌تر می‌شود. در برابر مجموعه‌ای شامل ۸۹ هزار گزینه، قوی‌ترین روش هوش مصنوعی هنوز هم فقط حدود نیمی از تطبیق‌های درست را با دقت ۹۰٪ پیدا کرد. Precision یعنی اینکه حدس‌هایش چند بار درست بودند و Recall یعنی چه تعداد از تطبیق‌های واقعی را واقعاً پیدا کرده است.

پژوهشگران همچنین ابزارها، پرامپت‌ها یا هیچ‌یک از نام‌های واقعی که کشف کرده بودند را منتشر نکردند و این مطالعه پیش از انتشار از هیئت بازبینی اخلاقی عبور کرده است. آن‌ها در حال تحویل دادن یک کیت داکسینگ به دیگران نیستند. آن‌ها صرفاً در حال مستندسازی قابلیتی هستند که به گفته نویسندگان، چه این مقاله منتشر می‌شد چه نه، همین حالا هم در مدل‌های فعلی هوش مصنوعی وجود دارد.

چرا این موضوع مهم است حتی اگر هرگز در Reddit پست نگذاشته باشید

کاربران کریپتو این ترس را به‌خوبی می‌شناسند. موجی از داکسینگ‌ها و تلاش‌ها برای آدم‌ربایی پس از نشت داده Coinbase در سال ۲۰۲۵، در کنار موارد بسیار دیگر، نشان داد که یک هویت افشاشده چقدر سریع می‌تواند به یک آدرس واقعی پشت در خانه کسی تبدیل شود.

ناشناس‌زدایی مبتنی بر هوش مصنوعی همان تهدید است، با این تفاوت که نشت داده از معادله حذف شده: این روش بر اساس چیزهایی کار می‌کند که شما از قبل به‌صورت عمومی منتشر کرده‌اید و به هیچ لیکی نیاز ندارد.

این موضوع همچنین چند ماه پس از آن مطرح می‌شود که Anthropic فاش کرد هکرهای تحت حمایت دولت از Claude برای اجرای بخش عمده یک کارزار جاسوسی سایبری تقریباً به‌طور مستقل استفاده کرده‌اند؛ یادآوری دیگری از این‌که پژوهش درباره سوءاستفاده از هوش مصنوعی همچنان از حفاظ‌ها و محدودیت‌هایی که برای مهار آن طراحی شده‌اند جلوتر می‌دود.

برای هر کسی که به دلیل فعالیت‌گری، سوءاستفاده، گرایش جنسی، وضعیت مهاجرتی، یا شغلی که با اظهارنظرهای عمومی مشکل دارد با نام مستعار پست می‌گذارد، این یعنی زادگاه، کارفرما و حتی نام حیوان خانگی، اگر در طول سال‌ها در کامنت‌های قدیمی پراکنده شده باشند، در نهایت به یک اثر انگشت هویتی تبدیل می‌شوند. این همیشه ممکن بود—هوش مصنوعی فقط انجام آن را سریع‌تر و ارزان‌تر کرده است.

اما اگر چنین نوعی از داکسینگ برایتان نگران‌کننده است، راه‌حلش وحشت نیست، بلکه عادت است: جزئیات مشخص و هویت‌ساز کمتری را به هر نام مستعار گره بزنید، و برای هر چیز واقعاً حساس، از ابزارهایی استفاده کنید که اساساً داده‌های شما را نگه نمی‌دارند.