به گزارش کارگروه فناوری اطلاعات سایبربان؛ امی وب (Amy Webb)، آینده‌پژوه، استاد دانشگاه نیویورک و برنده جایزه نویسندگی، طی دهه گذشته، عمر فراوانی را به پژوهش، گفتگو و ملاقات با افراد و سازمان‌هایی اختصاص داده است که در حوزه هوش مصنوعی، فعالیت می‌کنند.
وی گفت:
ما در همه زمینه‌های هوش مصنوعی، به یک نقطه اوج رسیده‌ایم. اکنون زمان آن فرا رسیده است که بازگردیم و نگاه کنیم؛ چه اتفاقی روی داده است.
آینده‌پژوه یادشده، در کتاب تازه خود، با نام «نُهِ بزرگ: چگونه غول‌های فناوری و ماشین‌های متفکر آن‌ها می‌توانند انسان را منقرض کنند۱» با بررسی ترندهای روز، هشدار داد؛ مسیری که امروزه توسعه فناوری در پیش گرفته، بسیار خطرناک است.
در آمریکا، گوگل، مایکروسافت، آمازون، فیسبوک، IBM و اپل، یا به‌طور کل جی-مافیا (G-MAFIA) با تقاضاهای کوتاه‌مدت یک بازار سرمایه‌داری بی‌رحم روبه‌رو هستند که امکان برنامه‌ریزی طولانی‌مدت و هوشمندانه را در حوزه هوش مصنوعی از بین می‌برد. در چین، تنسنت، علی‌بابا و بایدو نیز با داده‌کاوی حجم عظیمی از اطلاعات، آرمان‌های دولت آن کشور را تقویت می‌کنند.
این استاد دانشگاه نیویورک، هشدار می‌دهد که اگر مسیر در پیش گرفته شده، تغییر نکند، انسان‌ها مستقیماً به سمت یک فاجعه هدایت می‌شوند؛ اما همچنان زمان کافی، برای واکنش نشان دادن و تعیین نقش مناسب برای هر فرد، وجود دارد.
وبگاه «MIT Technology Review» به تازگی مصاحبه‌ای را در رابطه با نگرانی‌های امی وب، با وی ترتیب داده است که در ادامه، آن را مطالعه می‌کنید.
MIT: شما اشاره کردید که ما هم‌اکنون شاهد یک همگرایی نگرانی کننده، میان ترندهای فناوری، سیاست و اقتصاد هستیم. می‌توانید توضیح دهید که ترندهای فناورانه چیست؟
وب: هنگامی که با متخصصان فعال در زمینه هوش مصنوعی حرف می‌زنید، آن‌ها به شما می‌گویند که تا به حقیقت پیوستن خیلی از وعده‌های داده شده در این حوزه، زمان بسیاری باقی مانده است. در آن وقت، مواردی مانند خودروهای کاملاً خودمختار، تشخیص هویت قطعی، یا سامانه‌های هوش مصنوعی همگانی (AGI)، از توانایی‌های شناخت و تفکری مشابه انسان بهره‌مند می‌شوند.
از دیدگاه من، چشم دوختن به افقی که در آن، چندین نوع روبات انسان‌نما، با قابلیت راه رفتن و صحبت کردن وجود دارند، یا سامانه‌هایی که به صورت خودمختار، تصمیم‌گیری می‌کنند؛ تا حدودی نادیده گرفته شده است. ما هم‌اکنون میلیاردها پیشرفت کوچک را مشاهده می‌کنیم که در طول زمان، تأثیرات قابل توجهی را از خود به جای می‌گذارند و باعث می‌شوند که سیستم‌ها بتوانند به طور مستقل، تصمیم‌گیری نمایند.
برای مثال، آزمایشگاه دیپ مایند گوگل (DeepMind)، بعد از سخت‌کوشی‌های فراوان، موفق شد سامانه‌ای به نام آلفا گو (Alpha Go) را پدید آورد. آلفا گو، قادر است انسان‌ها را در اجرای بازی تخته‌ای گو (Go)، شکست دهد. آن‌ها در زمینه‌هایی مانند یادگیری تقویتی سلسله مراتبی (hierarchical reinforcement learning) و یادگیری چندوظیفگی (multitask learning) بسیار پیشرفت کرده‌اند.
آخرین نسخه از الگوریتم آلفا گو، با نام آلفا زیرو (AlphaZero) توانست یاد بگیرد که چگونه بدون دخالت انسان‌ها، ۳ بازی را به صورت همزمان انجام دهد. این موضوع، یک ترقی نسبتاً بزرگ است. همچنین زمینه‌های بسیار تازه‌ای در شبکه‌های مولد خصمانه (generative adversarial networks) وجود دارند. حوزه‌ای که به شما امکان می‌دهد؛ تصاویر دروغین، اما ظاهراً بسیار واقعی از چهره انسان‌ها، به وجود آورید.
پیشرفت‌های یادشده، به‌اندازه‌ای که در رابطه با هوش مصنوعی همگانی صحبت کردیم، جذابیت ندارند؛ اما اگر کمی افق دید خود را فراخ‌تر نمایید، خواهید دید که درحال حرکت به سمتی هستیم که سامانه‌ها برای ما تصمیم‌گیری می‌کنند. ما باید توقف نموده، از خود بپرسیم که اگر این‌گونه سیستم‌ها، راهبردهای انسانی را به منظور دستیابی به منفعتی ناشناخته، کنار بگذارند، چه رخ خواهد داد.
MIT: در رابطه با ترندهای سیاسی و اقتصادی چطور؟ آیا می‌توانید یکی از اصلی‌ترین نگرانی‌های خود را در این رابطه، شرح دهید؟
وب: جریان آزاد ایده‌ها در آمریکا می‌تواند بدون هیچ‌گونه محدودیتی، گسترش یابد. به همین دلیل است که دره سیلیکون، پدید آمد. این موضوع، رقابت و نوآوری‌ها را افزایش داد و همین مسئله، باعث شد که در حوزه هوش مصنوعی، به محلی برسیم که هم‌اکنون در آن قرار داریم.
با وجود این، در آمریکا، از نبود دوراندیشی، رنج می‌بریم. به عبارت دیگر، به جای ایجاد یک راهبرد دراز مدت در زمینه هوش مصنوعی، دولت فدرال، منابع مالی را از تحقیقات علمی و پژوهش‌ها بیرون کشیده است. بنابراین بودجه باید از سمت بخش خصوصی، تأمین شود؛ اما سرمایه‌گذاران نیز انتظار دارند که پول آن‌ها باز گردد. مشکل همین‌جا است. شما نمی‌توانید در هنگام کار روی فناوری و پژوهش، برای تحقیق و توسعه طرح‌های خود، برنامه‌ریزی کنید.
اگر شرکت‌های بزرگ فناوری، بدون داشتن محصولاتی که در اجلاس‌های سالانه، به نمایش می‌گذارند، به سختی روی پروژه‌های عظیم کار کنند، بسیار فوق‌العاده خواهد بود. با وجود این، ما هم‌اکنون می‌توانیم به بی‌شمار شاهدمثالی اشاره کنیم که یکی از شرکت‌های جی-مافیا، در آن‌ها، تصمیمات بدی را اتخاذ کرده است و این چالش‌ها، احتمالاً به علت فعالیت سریع آن، رخ می‌دهد.
ما هم‌اکنون می‌توانیم تأثیرات منفی میان پژوهش‌هایی که مردم را به وجد می‌آورند و آن‌هایی که سرمایه‌گذاران را خوش‌حال می‌کنند، مشاهده کنیم.
مسئله یادشده، به اندازه کافی بد است، نه؟ اما همه این‌ها، هنگامی روی می‌دهند که حجم عظیمی از قدرت در چین، رو به تقویت است. چین از صندوق سرمایه‌گذاری بزرگی، در زمینه تحقیقات هوش مصنوعی، بهره می‌برد. آن‌ها مقدار فراوانی پول را به این حوزه، اختصاص می‌دهند. همچنین زمانی که مباحث حریم خصوصی و داده‌ها مطرح می‌شوند، ایده‌هایی کاملاً متفاوت با آمریکا را در سر می‌پرورانند. این مسئله بیان می‌کند که آن‌ها قادر هستند حجم بیشتری از اطلاعات را استخراج و تحلیل کنند.
با وجود یک قدرت مرکزی، برای دولت این کشور، بسیار آسان است که خدمات هوش مصنوعی را بر اساس داده‌های ۱٫۳ میلیارد نفر، ایجاد و آزمایش کند. به علاوه این اقدامات، تنها در داخل کشور خودشان، صورت می‌گیرد.
آن‌ها یک برنامه ایجاد راه ابریشم جدید (Belt and Road Initiative) دارند که به نظر می‌رسد برنامه‌ای با زیرساخت‌های سنتی، اما تا حدی دیجیتالی است. این پروژه، تنها شامل ایجاد راه‌ها و پل‌ها نمی‌شود؛ بلکه توسعه شبکه‌های ۵G، فیبرهای نوری و استخراج و واکاوی داده‌ها را نیز در بر می‌گیرد.
گسترش فناوری‌های یادشده، برای مردمی که به آرمان‌هایی مانند: آزادی بیان و دموکراسی غربی، اهمیت می‌دهند، خطرناک است.
