برخی کارشناسان معتقدند که ممکن است در ده سال آینده، تکینگی[1] رخ دهد اما هنور پیامدهای چنین پدیده‌ای کاملاً مشخص نیست.

خلاصه

• هوش مصنوعی یک فناوری پیشگام است که توانایی اتوماسیون کارها، ارتقای بهره وری و متحول کردن بسیاری از صنایع را دارد.
• هر چقدر هوش مصنوعی قدرتمندتر می‌شود، انواع تهدیداتی که می‌تواند برای بشر ایجاد کند هم بیشتر خواهد شد.
• از جمله خطرات مهم هوش مصنوعی می‌توان به تولید اطلاعات غلط، نگرانی‌های مربوط به حریم خصوصی، از بین رفتن مشاغل، سوگیری، تبعیض، نوسان بازار و اقتصاد و همچنین مسئله تکینگی اشاره کرد.
• انتظار می‌رود که هوش مصنوعی بین سال‌های 2020 تا 2025 باعث نابودی حدود 85 میلیون شغل شود اما از طرفی عده‌ای معتقدند که تا سال 2025 هوش مصنوعی 97 میلیون شغل ایجاد می‌کند.
• برخی از کارشناسان بر این باورند که ممکن است در دهه آینده پدیده تکینگی رخ دهد اما هنوز پیامدهای این پدیده کاملاً مشخص نیستند.

در سال‌های اخیر شاهد پیشرفت چشمگیر فناوری هوش مصنوعی بودیم. امروزه هوش مصنوعی در صنایع مختلف نقش پررنگی دارد و روزبروز شرکت‌های بیشتری برای افزایش بهره وری، دیده شدن هر چه بیشتر یا گسترش محدوده خدمات و محصولاتشان، استفاده از سیستم‌های هوش مصنوعی را در عملیات کسب و کارشان امتحان می‌کنند. بعلاوه با سرمایه گذاری 10 میلیارد دلاری شرکت مایکروسافت در شرکت OpenAI سازنده چت بات ChatGPT، حالا توجه عموم مردم بیشتر از پیش به این حوزه جلب شده و سیستم‌های هوش مصنوعی سروصدای زیادی در جهان به پا کرده‌اند.

اما با توسعه هوش مصنوعی و افزایش قدرت و محدوده عملکرد آن، خطرات مختلفی هم شکل می‌گیرد از مشکلات جزئی گرفته تا خطراتی که وجود انسان‌ها را تهدید می‌کنند. طبیعتاً همه این تهدیدات یکسان نیستند اما همگی نشان می‌دهند که باید نسبت به این فناوری جدید محتاط باشیم. در این مطلب نگاهی دقیق‌تر به برخی از خطرات هوش مصنوعی داریم.

دیپ فیک و اطلاعات غلط

دیپ فیک به تصاویر یا ویدیوهای جعلی گفته می‌شود که توسط کامپیوتر تولید می‌شوند اما بسیار نزدیک به واقعیت هستند. احتمالاً واژه دیپ فیک (به معنای جعل عمیق) ریشه در یکی از اصطلاحات مرتبط به هوش مصنوعی به نام یادگیری عمیق دارد. یادگیری عمیق فرایندی است که برخی از سیستم‌های هوش مصنوعی با استفاده از آن انبوهی داده را برای آموزش دادن خودشان تحلیل کرده و بر اساس این تحلیل‌ها آموزش می‌بینند. در چند سال اخیر، دیپ فیک تبدیل به یک نگرانی جدی شده است.

بسیاری از ویدیوها و تصاویر دیپ فیک مربوط به چهره‌های سرشناس هستند اما امکان استفاده از این فناوری برای تولید سایر انواع اطلاعات یا مطالب مخرب وجود دارد از جمله اخبار جعلی، ویدیوهای مستهجن و غیره.

خطرات بالقوه دیپ فیک بسیار مهم و چشمگیر هستند و در واقع این خطر بارزترین نمونه از یکی از تهدیدات کلی‌تر هوش مصنوعی است یعنی اطلاعات غلط. می‌توان از هوش مصنوعی برای تولید و انتشار مطالب کذب در سطح وسیع استفاده کرد؛ طوری که این مطالب کاملاً واقعی و متقاعدکننده به نظر برسند. دیپ فیک و سایر اطلاعات غلط تولید شده توسط هوش مصنوعی پیامدهای اجتماعی، سیاسی و قانونی وسیعی دارند و یکی از بزرگترین مشکلات موجود این است که در حال حاضر هیچ قانون و مقرراتی در رابطه با چنین محتوایی وجود ندارد.

حریم خصوصی

برای آموزش دادن هوش مصنوعی از اطلاعات زیادی استفاده می‌شود که معمولاً این اطلاعات حاوی داده‌های واقعی از افراد واقعی هستند. این موضوع به تنهایی می‌تواند باعث نقض حریم شخصی شود. نمونه‌های مختلفی از سیستم‌های هوش مصنوعی از جمله ابزارهای تشخیص چهره و بینایی کامپیوتری وجود دارد که می‌توان گفت خطر بسیار جدی‌تری برای حریم خصوصی افراد ایجاد می‌کنند. می‌توان سیستم‌های هوش مصنوعی را آموزش داد تا چهره انسان‌ها را شناسایی کنند در نتیجه این سیستم‌ها به صورت بالقوه توانایی نظارت بر جوامع و کنترل رفتار انسان‌ها را دارند. اگر این سیستم‌ها توسط افراد بدخواه استفاده شوند، می‌توانند نقش مهمی در سرکوب اجتماع در مقیاس عظیم یا حتی توانایی ایجاد شرایطی بدتر از آن را داشته باشند.

از بین رفتن مشاغل

یکی از مهم‌ترین نگرانی‌هایی که در رابطه با هوش مصنوعی وجود دارد، این است که هوش مصنوعی با اتوماسیون مهارت‌ها و فرایندها به نحو بسیار کارآمد و مقرون به صرفه می‌توانند باعث از بین رفتن برخی مشاغل و حتی صنایع شوند. در واقع، برخی کارشناسان در رابطه با تأثیر هوش مصنوعی بر مشاغل اختلاف نظر دارند. یک مطالعه جدید نشان داده که بین سال‌های 2020 تا 2025، اتوماسیون هوش مصنوعی می‌تواند باعث از بین رفتن حدود 85 میلیون شغل شود. مطالعه‌ای دیگر نشان داده که هوش مصنوعی می‌تواند تا سال 2025 97 میلیون شغل جدید ایجاد کند.

از یک طرف، هوش مصنوعی می‌تواند بسیاری از کارهای ساده‌ای که در برخی مشاغل توسط انسان‌ها انجام می‌شوند را اتوماسیون کند و با این کار باعث از بین رفتن این مشاغل شود. از طرف دیگر، هوش مصنوعی مولد - هوش مصنوعی مورد استفاده برای تولید محتوای جدید نه اتوماسیون کارهای موجود - برای اینکه به مرحله‌ای برسد که تهدیدی برای مشاغل محسوب شود، موانع زیادی در پیش دارد. معمولاً چنین مشاغل نیاز به ویژگی‌های خاص انسانی مثل خلاقیت و هم فکری دارند.

برخی کارشناسان معتقدند که هوش مصنوعی منجر به ایجاد بحران بی‌کاری می‌شود چون مشاغلی که حذف می‌شوند و مشاغلی که با وجود هوش مصنوعی ایجاد می‌شوند، از نظر مهارت هیچ همپوشانی با هم ندارند. مثلاً پیک‌هایی که ممکن است با وجود سیستم‌های تحویل خودکار شغل خودشان را از دست بدهند، احتمالاً مهارت‌های لازم برای انجام مشاغلی که توسط هوش مصنوعی تولید می‌شوند را ندارند چون این مشاغل به تجربه و تخصص بیشتری نیاز دارند.

سوگیری، تبعیض و مسئله «راهکارگرایی فناوری[2]»

ممکن است جامعه ما، هوش مصنوعی را راهکاری برای همه چیز بداند در حالی که هوش مصنوعی تنها یک ابزار است نه راهکار همه مسائل. نباید فراموش کنیم که سیستم‌های هوش مصنوعی بی‌نقص نیستند و این سیستم‌ها هم بسیاری از سوگیری‌های انسان‌ها را در خود دارند و حتی آنها را تشدید می‌کنند.

هر چقدر بیشتر از هوش مصنوعی برای حل مشکلاتی که امکان سوگیری و تبعیض در آنها وجود دارد، استفاده شود این مسئله جدی‌تر می‌شود. در حال حاضر بسیاری از شرکت‌ها برای رسیدگی به درخواست‌های متقاضیان کار از هوش مصنوعی کمک می‌گیرند. گرچه هوش مصنوعی این توانایی را دارد که درخواست‌هایی بسیار بیشتری را در یک زمان مشخص بازبینی کند اما این به معنای عدم وجود سوگیری در این سیستم‌ها نیست. از این نظر، سیستم‌های هوش مصنوعی باید به دقت طراحی و نظارت شوند تا به صورت غیرعادلانه با متقاضیان برخورد نکنند.

یک نمونه واقعی از این شرایط در سال 2018 رخ داد یعنی زمانی که شرکت آمازون مجبور به توقف استفاده از یک ابزار استخدام شد به این دلیل که مشخص شد داده‌های مورد استفاده برای آموزش این سیستم هوش مصنوعی علیه متقاضیان زن سوگیری دارند.

سوگیری و تبعیض در الگوریتم‌های توصیه مطلبی که در موتورهای جستجو و شبکه‌های اجتماعی استفاده می‌شوند هم وجود دارد. در صورت نبود برنامه ریزی دقیق، این نرم‌افزارهای هوش مصنوعی می‌توانند دچار سوگیری و تبعیض شوند.

نوسان اقتصادی

هوش مصنوعی توانایی تقویت کردن بخش اقتصادی را دارد. روزبروز شرکت‌های سرمایه گذاری بیشتری برای تحلیل و خرید و فروش سهام از هوش مصنوعی استفاده می‌کنند. عده زیادی از سیستم‌های هوش مصنوعی برای خرید و فروش دارایی‌های مختلف هم استفاده می‌کنند. مزیت سیستم‌های هوش مصنوعی در این حوزه این است که برخلاف انسان‌ها تحت تأثیر احساسات قرار نمی‌گیرند. اما این سیستم‌ها توانایی در نظر گرفتن شرایط اجتماعی کلی و تأثیر آن را ندارند. اعتماد در بازارها جایگاه خاصی دارد ولی ترس و وحشت سرمایه گذاران می‌تواند به راحتی آن را تحت تأثیر قرار دهد. ممکن است ابزارهای سرمایه گذاری مبتنی بر هوش مصنوعی، برای به حداکثر رساندن سود در یک بازه زمانی کوتاه خرید و فروش زیادی انجام دهند و با این کار باعث ایجاد ترس و وحشت در بازار و ریزش شدید یا سایر انواع نوسان بازار شوند.

تکینگی

می‌توان گفت که مهم‌ترین تهدید هوش مصنوعی که کمترین درک هم نسبت به آن وجود دارد مربوط به مفهوم تکینگی است یعنی لحظه‌ای که هوش مصنوعی از هوش انسان پیشی بگیرد. از چنین لحظه‌ای به بعد انسان‌ها توانایی کنترل هوش مصنوعی را نخواهند داشت و هوش مصنوعی شیوه ساختن (یا نابودی) جامعه را کنترل می‌کند. بحث‌هایی که در رابطه با تکنیگی وجود دارند عمدتاً در حد نظریه هستند چون در حال حاضر هیچ کس در جریان نیست که با قدرت گرفتن هوش مصنوعی چه اتفاقی می‌افتد. اما پیامدهای احتمالی این موضوع می‌تواند بسیار جدی باشد و برخی از کارشناسان باور دارند که تکینگی می‌تواند نژاد انسان را منقرض کند.

وقتی هوش مصنوعی از هوش انسان پیشی بگیرد، ممکن است به ایده‌هایی برسد که انسان‌ها حتی قادر به تصور آنها نیستند. چنین هوش مصنوعی می‌تواند دائماً در حال اصلاح و پیشرفت خودش باشد درست همانطور که امروزه هوش مصنوعی همواره در حال یادگیری است. در نتیجه شکاف بین انسان‌ها و هوش مصنوعی که دائماً در حال رشد و پیشرفت است، بیشتر و بیشتر می‌شود.

چنین هوش مصنوعی می‌تواند برای جامعه بسیار مفید باشد و برای مشکلاتی که انسان‌ها هنوز قادر به حل آنها نیستند، راهکار پیدا کند مثل انواع بیماری‌ها، فقر یا تغییرات اقلیمی. از طرفی، ممکن است این هوش مصنوعی به این نتیجه برسد که وجود انسان‌ها مانع رسیدن به چنین اهدافی است و دست به کشتار انبوه بشر بزند. واقعیت مشخص نیست اما هنوز شرایط به طور کامل از اختیار ما انسان‌ها خارج نشده است. کارشناسانی مثل رِی کرزویل آینده پژوه مشهور باور دارند که احتمالاً در دهه‌های پیش رو تکنینگی رخ می‌دهد اما عده‌ای دیگر معتقدند که احتمالاً تنها چند سال با رسیدن به این مرحله فاصله داریم. همچنین، عده زیادی باور دارند که شیوه ایجاد هوش مصنوعی هم می‌تواند بر تکینگی احتمالی پیش روی ما تأثیر داشته باشد. بنابراین، ضروری است که جامعه بشری قبل از آنکه خیلی دیر شود به مسائل اخلاقی و خطرات هوش مصنوعی فکر کند.

[1]  تکینگی فناوری فرضیه‌ای است که پیشبینی می‌کند که شتاب در فناوری در نهایت باعث می‌شود که هوش مصنوعی از هوش بشر پیشی بگیرد و منجر به تغییرات شگرف یا حتی پایان تمدن بشری بشود.

[2] Techno-Solutionism