عصر جدید هوش مصنوعی مولد با یک وعده بزرگ آغاز شد: دسترسی فوری به دانش انباشته بشریت، خلاصه شده در قالب یک دستیار هوشمند و همیشه حاضر. رهبران تجاری در سراسر جهان در حال سرمایه گذاری های هنگفت برای ادغام این فناوری در فرآیندهای خود هستند، با این باور که به یک منبع حقیقت ناب و بهینه شده دست یافته اند، اما این باور بر روی یک پایه به شدت شکننده ساخته شده است: اینترنت.
همانطور که این مدل های هوش مصنوعی با ولع در حال بلعیدن تریلیون ها کلمه و تصویر از وب برای یادگیری هستند، یک نسل جدید و بسیار خطرناک تر از بازیگران مخرب در حال بیدارشدن است. سئوی کلاه سیاه هنر قدیمی فریب دادن الگوریتم های جست وجو، بازگشته است، اما این بار با هدفی بسیار شوم تر. آنها دیگر به دنبال فریب دادن یک الگوریتم رتبه بندی ساده نیستند؛ آنها به دنبال مسموم کردن حافظه جمعی و بازنویسی درک واقعیت در خود این مغزهای مصنوعی هستند. این یک چالش فنی نیست؛ این یک بحران اعتماد در شرف وقوع است.
از تکرار کلمات کلیدی تا مسمومیت روایی
سئوی کلاه سیاه سنتی، یک بازی نسبتا ساده و فنی بود. متخصصان آن با استفاده از ترفندهایی مانند پنهان کردن کلمات کلیدی در متن، خرید لینک های اسپم و ایجاد صفحات دروغین، تلاش می کردند تا الگوریتم های جست وجوی اولیه گوگل را فریب دهند و رتبه بالاتری در نتایج جست وجو کسب کنند. این یک نبرد بر سر دیده شدن بود، اما مسمومیت هوش مصنوعی یک بازی کاملا متفاوت و به مراتب پیچیده تر است.
هدف در اینجا، نه صرفا کسب یک جایگاه بالاتر، که فاسد کردن خود فرآیند یادگیری مدل است. بازیگران مخرب با ایجاد حجم عظیمی از محتوای به ظاهر معتبر اما کاملا ساختگی—از مقالات وبلاگی و بررسی محصولات جعلی گرفته تا پست های فروم و مداخل ویکی پدیا—در حال تغذیه کردن هوش مصنوعی با یک رژیم غذایی از اطلاعات نادرست هستند. آنها از تکرار کلمات کلیدی، به مسمومیت روایی روی آورده اند؛ هنر تکرار یک دروغ به قدری زیاد که هوش مصنوعی آن را به عنوان یک حقیقت محتمل بپذیرد.
مطلب مرتبط: تغییرات دنیای سئو در سالی که گذشت
شرکت گوگل را به عنوان یک مثال در نظر بگیرید. تمام امپراتوری این شرکت بر پایه یک وعده واحد ساخته شده است: ارائه اطلاعات مرتبط و قابل اعتماد. حال تصور کنید یک بازیگر مخرب، یک کمپین مسمومیت گسترده را برای ترویج یک نرم افزار امنیتی جعلی راه اندازی کند. آنها هزاران مقاله و بررسی ساختگی ایجاد می کنند که همگی این نرم افزار را ستایش کرده و آن را به عنوان یک محصول ضروری معرفی می نمایند.
مدل های هوش مصنوعی مانند جمینای، با دیدن این حجم عظیم از «شواهد» مثبت، ممکن است در پاسخ به سوال یک کاربر که می پرسد «بهترین نرم افزار امنیتی چیست؟»، با اطمینان کامل، همین محصول مخرب را پیشنهاد دهند. در این سناریو، اعتماد کاربر نه تنها به آن پیشنهاد خاص، که به کل برند گوگل به عنوان یک منبع حقیقت، آسیب جبران ناپذیری می بیند.
اثر اتاق پژواک تقویت شده
خطرناک ترین جنبه مسمومیت هوش مصنوعی، اثر بازخورد یا «اتاق پژواک» تقویت شده ای است که ایجاد می کند. این پدیده یک چرخه شوم سه مرحله ای است. در مرحله اول، بازیگران مخرب، اینترنت را با اطلاعات نادرست اولیه پر می کنند. در مرحله دوم، مدل های هوش مصنوعی این اطلاعات را مصرف کرده و آن را به عنوان بخشی از پایگاه دانش خود درونی می سازند اما فاجعه واقعی در مرحله سوم رخ می دهد: این مدل های هوش مصنوعی، خود شروع به تولید محتوای جدید براساس همان دانش مسموم اولیه می کنند.
این محتوای جدید، که بسیار روان، قانع کننده و به ظاهر معتبر است، دوباره به اینترنت تزریق شده و منبعی برای یادگیری نسل بعدی مدل های هوش مصنوعی یا حتی خود همان مدل در دور بعدی آموزش می شود. در این چرخه، یک دروغ اولیه می تواند در عرض چند ماه به یک «حقیقت» پذیرفته شده در سراسر اکوسیستم هوش مصنوعی تبدیل شود که ردیابی منشأ اصلی آن تقریبا غیرممکن است.
تصور کنید یک رقیب بیاخلاق برای یک برند بزرگ نوشیدنی مانند کوکاکولا، تصمیم می گیرد یک کمپین مسمومیت روایی را برای ایجاد یک شایعه سلامتی بی اساس راه اندازی کند. آنها ده ها وبسایت به ظاهر علمی ایجاد می کنند که همگی به یک ماده بی خطر در نوشابه اشاره کرده و آن را به یک بیماری نادر مرتبط می سازند. هوش مصنوعی این اطلاعات را می بلعد. سپس، وقتی کاربران از چت بات های مختلف می پرسند «آیا فلان ماده بی خطر است؟»، این چت بات ها شروع به تولید پاسخ هایی می کنند که با احتیاط اما به وضوح به این «نگرانی های رو به رشد» اشاره می نمایند. این پاسخ های تولیدشده توسط هوش مصنوعی، خود در وبلاگ ها و فروم های دیگر نقل قول می شوند. در عرض مدت کوتاهی، یک جست وجوی ساده، کاربر را با یک اتاق پژواک از نگرانی روبهرو می کند که تماما بر پایه یک دروغ اولیه ساخته شده و کوکاکولا را در یک کابوس روابط عمومی گرفتار می نماید که دفاع در برابر آن بسیار دشوار است.
از سئو تا راستی آزمایی
این تهدید جدید، نیازمند یک بازنگری کامل در استراتژی های دفاع از برند است. برای سال ها، تیم های بازاریابی بر روی بهینه سازی موتورهای جست وجو (سئو) متمرکز بودند تا اطمینان حاصل کنند که محتوای مثبت و رسمی آنها در صدر نتایج جست وجو قرار می گیرد اما در عصر مسمومیت هوش مصنوعی، این دیگر کافی نیست. نبرد جدید، نه فقط بر سر رتبه، که بر سر حقیقت است.
رهبران تجاری باید تیم های جدیدی را مجهز کنند که وظیفه شان نه فقط تولید محتوا، که نظارت و راستی آزمایی اکوسیستم اطلاعاتی پیرامون برندشان است. این تیم ها باید به طور مداوم با مدل های هوش مصنوعی مختلف تعامل داشته باشند تا ببینند آنها درباره برند، محصولات و مدیران شرکت چه می گویند. آنها باید به ابزارهای پیشرفته ای برای شناسایی کمپین های اطلاعات نادرست و ردیابی منابع آنها مجهز شوند و یک استراتژی سریع برای مقابله با روایت های سمی قبل از تبدیل شدن به یک حقیقت پذیرفته شده، تدوین کنند.
یک شرکت خدمات مالی مانند آمریکن اکسپرس را در نظر بگیرید که اعتبار آن به طور کامل بر پایه اعتماد و امنیت بنا شده است. یک کمپین مسمومیت که به دروغ، آسیب پذیری های امنیتی را در سیستم آنها تبلیغ می کند، می تواند فاجعه بار باشد. تیم دفاع از برند جدید آنها، باید فراتر از نظارت بر شبکه های اجتماعی عمل کند.
آنها باید به طور منظم، سخت ترین سوالات امنیتی را از تمام چت بات های اصلی بپرسند و پاسخ های آنها را تحلیل کنند. به محض شناسایی یک الگوی اطلاعات نادرست، آنها باید یک واکنش چند لایه را آغاز کنند: از یک سو، با انتشار محتوای فنی دقیق و قابل راستی آزمایی برای مقابله با آن ادعاها و از سوی دیگر، با گزارش دادن این کمپین های مسمومیت به خود شرکت های توسعه دهنده هوش مصنوعی. این یک بازی بی پایان دفاعی است که در آن، سکوت و انفعال به معنای واگذاری میدان نبرد به بازیگران مخرب است.
مطلب مرتبط: چگونه هوش مصنوعی دنیای سئو را شکل می دهد؟
سخن پایانی
هوش مصنوعی یک آینه است که تصویری از اینترنت را به ما بازتاب می دهد؛ با تمام دانش، خلاقیت و همچنین تمام تاریکی، تعصب و اطلاعات نادرست آن. مسمومیت هوش مصنوعی یک مشکل فنی نیست که بتوان آن را با یک وصله نرم افزاری حل کرد؛ این یک مشکل انسانی و اجتماعی است که اکنون با قدرت بی سابقه فناوری، تقویت شده است. برای رهبران تجاری، این به معنای یک مسئولیت جدید و حیاتی است: شما دیگر تنها مسئول آنچه برندتان می گوید نیستید؛ شما تا حدی مسئول آنچه جهان دیجیتال درباره برندتان می آموزد نیز هستید. ساختن یک برند قابل اعتماد در دهه آینده، نه تنها نیازمند ارائه یک محصول عالی و خدمات مشتری بینقص است، بلکه مستلزم تبدیل شدن به یک نگهبان خستگی ناپذیر حقیقت در یک اکوسیستم اطلاعاتی است که به طور فزاینده ای در معرض خطر مسمومیت قرار دارد.
منابع: