با مرور برنامهها و عناوین جلسات دیالوگ، حس میکنید فهرست سرفصلهای یک رمان دیستوپیایی را خواندهاید. در کنار بحثهای معمول توسعهی کسبوکار، موضوعاتی مانند «پیمایش در جنگ جهانی سوم»، «احتمال بروز زمستان هوش مصنوعی» و «آشوب داخلی علیه دیتاسنترها» «بازگرداندن تسلیحات هستهای» تکرار میشوند و البته گاهی به خصوصیترین زوایای زندگی نیز میرسند.
فرمهای ثبتنام نیز بخش دیگری از اسناد افشا شدهاند؛ جاییکه از میهمانان و اعضای دیالوگ خواسته شده است که آینده را پیشبینی کنند. بسیاری از پاسخها، ترس عمیق پنهان در پشت نقاب اعتمادبهنفس فناورانه را بازتاب میدهند.
ثبتنامکنندگان بارها و بارها به یک تصویر مشترک رسیدهاند؛ هوش مصنوعی در عرض چند سال، مفاهیم کار، جنگ، آموزش و حتی عقاید مذهبی را زیر و رو خواهد کرد.
یکی از سناریوهای تیرهوتار مطرحشده، از احتمال بروز تروریسمی میگوید که بهطور مستقیم زیرساختهای پردازشی را هدف قرار میدهند. دیگران به آوارگی عظیم و بیسابقهی نیروی کار اشاره میکنند یا حتی آیندهای که در آن متهمان پروندههای کیفری، دفاع یک وکیل هوش مصنوعی را به وکلای تسخیری انسانی ترجیح میدهند.
یکی از اعضا بهصراحت در فرم خود نوشته است: «انحطاط اجتماعی با سرعت بیشتری ادامه خواهد یافت.» بهنظر میرسد شخصیتهایی که الگوریتمهای فردا را برنامهنویسی میکنند، خودشان بیش از هر کس دیگری منتظر یک دگرگونی بنیادین و شاید مخرباند.
در بخش پروفایلهای شخصی هم رژیمهای غذایی عجیبی ثبت شده است که وحشت عمیق آنها از پیری و مرگ را نشان میدهد؛ از رژیمهای صرفا گوشتخواری برای بازگشت به خوی حیوانی و اجدادی تا درخواستهای مکرر برای سرو آب تصفیهنشده و البته لیست بلندی از مکملهای خاص ضدپیری.
وقتی انسانها با الگوریتم طبقهبندی میشوند
فکر میکنید کسانی که الگوریتمهای پلتفرمهای دیجیتال را برای رتبهبندی و تحلیل رفتار مردم جهان ساختهاند، خودشان در خفا چگونه ارزیابی میشوند؟ اسناد فاششده از یک سیستم امتیازدهی عجیب و باورنکردنی پرده برمیدارند؛ یک Black Mirror واقعی که در آن، جایگاه افراد با شهرت و ثروت سنجیده میشود.
دیالوگ پیش از ورود هر عضو، او را در سه سطح A، B و C دستهبندی میکند. برخلاف سیستمهای نمرهدهی معمول، در این کلاب مخفی نمرهی C به VIPها، تأثیرگذارترینها و مشهورترین شخصیتها اختصاص دارد و نمرهی A بیشتر به اعضای قدیمی و کمتر شناختهشده تعلق میگیرد.
جالب اینکه هوش مصنوعی عیار شهرت نخبگان را میسنجد. الگوریتم دیالوگ مکررا این سؤال را مطرح میکند که آیا آدمهای معمولی، شخص را میشناسند؟ طبق اسناد افشاشده، مدیران ارشد شرکتهای بسیار مهم زیرساختی بارها از لیست نهایی خط خوردهاند، صرفا بدیندلیل که جذابیت رسانهای ندارند یا تعداد فالوورشان در توییتر پایین است!
در یک مورد، هوش مصنوعی رتبهی VIP یک اقتصاددان برجسته را رد کرد، فقط بدیندلیل که سازمان تحت هدایتش برای مردم کوچه و بازار نامی آشنا نبود. در مقابل، بازیگر هالیوودی نقش تانوس در سری فیلمهای انتقامجویان بهاستناد فروش چندمیلیاردی فیلمها و فالوورهای چندمیلیونی اینستاگرامش، بهطور مستقیم در بالاترین سطح VIP قرار گرفت.
البته سیستم رتبهبندی به هر فرد یک شاخص ارزشافزوده (از ۱ تا ۴) نیز میدهد و چنانچه کسی نمرهاش افت کند یا ارزش کافی برای شبکه بههمراه نیاورد، بدون هیچ تعارفی از لیست دعوتشدگان سال بعد خط میخورد.
چنین قضاوتهای زنندهای در یادداشتهای فاششده بسیار رایجاند؛ مثلا بنیانگذار استارتاپ پیشرفتهی محاسبات کوانتومی بهدلیل «تعداد کم دنبالکنندگان در شبکههای اجتماعی» حذف میشود یا پروندهی یک سرمایهگذار با عبارت کوتاه «حجم کم داراییهای تحت مدیریت» کنار میرود.
علاوهبر غربالگری مالی و اعتباری، الگوریتمهای دیالوگ روابط انسانی را هم مدیریت میکنند و تصمیم میگیرند چه کسی در کنار چه کسی بنشیند؛ برای مثال در یکی از یادداشتها جایگاه یکی از حاضرین تغییر داده شده است تا مبادا با افراد رتبهی C همنشین شود و وقت گرانبهای آنها را بگیرد.
بخشی از سیستم بهعنوان واسطهی همسریابی عمل میکند و پروفایل افراد مجرد را برای آشناییهای هدفمند به هم پیشنهاد میدهد. در مقابل یک لیست سیاه نیز مشخص میکند چه افرادی هرگز نباید در رویدادها کنار هم قرار بگیرند؛ فهرستی که الگوریتم باتوجهبه مجموعهای از فاکتورها مانند خصومتهای حرفهای یا روابط گذشته تنظیم کرده است.
انجمن دیالوگ چگونه هک شد؟
وقتی کلمهی هکشدن به گوشمان میخورد، ناخودآگاه به یاد هکرهای کلاهسیاه میافتیم که از لایههای فایروالها رد میشوند تا کدهای امنیتی را بشکنند؛ اما در مورد محرمانهترین کلاب سیلیکونولی، اصلا هک پیچیدهای در کار نبود.
ماجرا ازاینقرار است که پایگاهدادهی اصلی اعضا روی پلتفرم آنلاین Airtable قرار داشت که تاحدی به اکسل پیشرفته شباهت دارد. برگزارکنندگان رویداد، یک صفحهی وب تقریبا خالی به آدرس dialog.org ساخته بودند که اگر بهعنوان کاربری ساده به آن سر میزدید، چیزی نمیدیدید.
اما هر فرد مبتدی در دنیای وب میداند که اگر روی صفحهی وب راستکلیک کند و گزینه View Page Source را بزند، کدهای پشتپردهی سایت را میبیند. سازندگان این سایت در اوج بیاحتیاطی، لینک دایرکتوری کامل اعضا را لابهلای همین کدهای متنی رها کرده بودند!
در صفحهی ورود به پلتفرم app.dialog.org هم نه اثری از شرایط خدمات دیده میشد نه هشداری مبنیبر اینکه اینجا یک محیط خصوصی مخصوص اعضاست. هر کسی میتوانست با اکانت جیمیل خود وارد سیستم شود، بدون اینکه ساختار سایت اصلا بررسی کند که آیا این ایمیل در لیست دعوتشدگان تأییدشده قرار دارد یا خیر.
در نهایت، یک هکتیویست سوئیسی بهنام مایا آرسون کرایم که در پیداکردن همین اشتباهات امنیتی و دیتابیسهای رهاشده تخصص دارد؛ پیام ناشناسی دریافت کرد و سورسکد صفحه را خواند. ناگهان تمام سوابق بیستساله، گرایشهای سیاسی پنهان، توکنهای ورود و حتی حساسیتهای غذایی گروهی از قدرتمندترین آدمهای دنیا روی دایره ریخت.
مایا آرسون میگوید: «عجیب است که این ماجرا ثابت میکند افرادی که جهان را اداره میکنند، آنقدر به ایمنی شخصیشان مطمئناند که به خودشان زحمتی نمیدهند نکات امنیتی اولیه را رعایت کنند، حتی برای دورهمیهای غیررسمی که در آن آیندهی جمعی ما را تعیین میکنند.»
چرا درهای اتاق باز شد؟ چون افرادی از قفل در استفاده میکنند که نمیخواهند گیر بیفتند و اعضای انجمن؛ میدانند که اتفاقی برایشان نخواهد افتاد.
باورش سخت است که معماران دنیای دیجیتال، در نهایت قربانی چنین اشتباهی در شبکه کوچک خودشان شده باشند؛ اما آیا این رسوایی، پایان کار دیالوگ است؟ بعید بهنظر میرسد پیتر تیل و اورن هافمن انجمن کلوب را منحل کنند و گمانهزنیها از کوچ احتمالی گروه به فضایی غیرقابلنفوذتر میگویند.
اغلب افرادی که نامشان در لیست افشاشدهی انجمن وجود دارد، تا این لحظه هیچ اظهارنظری نکردهاند. جوزف گوردون-لویت، بازیگر از معدود کسانی بود که حضورش را تأیید کرد و در بیانیهای گفت شخصا پیتر تیل را نمیشناسد و هیچ ارتباطی با او ندارد. او افزود شرکت در انجمن به او اجازه داد تا با دیدگاههای مخالف در مورد فناوری و هوش مصنوعی تعامل داشته باشد.
منبع: زومیت