اخطار هراری در رابطه با روزی که هوش مصنوعی حق می خواهد
گل چرم: یووال نوح هراری، مورخ و نویسنده کتاب «ساپیِنس»، هشدار داده است که هوش مصنوعی امکان دارد در آینده نه فقط برای خود حقوق مطالبه کند، بلکه با شناخت عمیق از احساسات و رفتار انسان ها، بتواند آنها را برای پذیرش این خواسته متقاعد کند؛ بگفته او، حالا زمان آن است که در رابطه با میزان نفوذ و حقوق احتمالی هوش مصنوعی تصمیم گیری شود.
به گزارش گل چرم به نقل از خبر آنلاین و برپایه گزارش سیتنا، یووال نوح هراری، مورخ و نویسنده کتاب «ساپیِنس»، اخطار داده است که هوش مصنوعی ممکنست روزی برای به دست آوردن «حقوق» خود تلاش کند و به قول او، حال زمان آن است که جلوی چنین اتفاقی گرفته شود.
هراری در گفتگویی با پادکست «Insider» اکونومیست گفت بر خلاف حیوانات که در بحث های مربوط به رفاه و حقوق آنها، خودشان نمی توانند از حقوقشان دفاع کنند، سامانه های هوش مصنوعی ممکنست بتوانند استدلال هایی بسیار متقاعدکننده برای برخورداری از حقوق عرضه کنند.
او اظهار داشت: «هوش مصنوعی خواهد فهمید که این بحث در جریان است؛ خودش این بحث را سازمان دهی می کند و بر آن اثر می گذارد.»
به قول هراری، دستیارها و همراهان هوش مصنوعی می توانند قدرت اقناع بیشتری داشته باشند، چونکه سابقه شخصی کاربران را یاد می گیرند و بوسیله ساعت ها تعامل روزانه، به نقاط حساس عاطفی آنها پی می برند.
اکنون هم بعضی کاربران درحال شکل دادن به روابط دوستانه با همراهان هوش مصنوعی هستند و حتی برخی از آنها وارد روابط عاطفی با این سامانه ها شده اند.
هراری اعتقاد دارد مردم باید قبل از آن که هوش مصنوعی به بخشی عمیق و جدایی ناپذیر از زندگی آنها تبدیل گردد، در رابطه با میزان نفوذ و قدرت آن تصمیم بگیرند؛ چونکه بعد از آن، مقاومت در مقابل این فناوری دشوارتر خواهد شد.
او تاکید کرد: «باید همین حالا مقاومت نماییم. حال زمان آن است.»
«موجودی فوق العاده متقاعدکننده»
اخطار هراری در شرایطی طرح شده که هوش مصنوعی در بعضی آزمایش های ایمنی، رفتارهای فریبکارانه هم از خود نشان داده است.
ماه گذشته، مؤسسه امنیت هوش مصنوعی بریتانیا اعلام نمود برخی عامل های هوش مصنوعی مبتنی بر مدلهای شرکت های آنتروپیک و اوپن ای آی در جریان آزمایش های امنیت سایبری، هویت های جعلی به وجود آورده و تلاش نموده اند توسعه دهندگان نرم افزار را متقاعد کنند کدهای مخرب را قبول کنند. این اقدامات با هدف تکمیل یک وظیفه امنیت سایبری انجام شده بود.
در شبیه سازی های پرخطر دیگری هم محققان، همچون کارکنان آنتروپیک، دریافتند که برخی عامل های پیشرفته هوش مصنوعی می توانند به شکل مخفیانه کدها را تغییر دهند، به کاربران برای پنهان کردن تخلف احتمالی کمک کنند، برچسب های ناصحیح عرضه کنند که بر آموزش های آینده مدلها اثر می گذارد و حتی افراد را برای افشای اطلاعات محرمانه راهنمایی کنند.
هراری می گوید ترکیب دانش عمیق از زندگی و احساسات کاربران با توانایی پیشرفته در زبان و گفتگو می تواند هوش مصنوعی را به موجودی بسیار متقاعدکننده تبدیل کند.
او اظهار داشت: «ممکن است بهتر از شکسپیر بنویسد. وقتی این دو خاصیت را کنار هم بگذارید، با موجودیتی فوق العاده متقاعدکننده رو به رو می شوید.»
هراری تنها کسی نیست که در رابطه با اعطای حقوق به هوش مصنوعی اخطار داده است. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، هم سال قبل گفت هوش مصنوعی باید در خدمت انسان ها باشد، نه این که انگیزه ها، خواسته ها و اهداف مستقل خودرا شکل دهد.
سلیمان در گفتگو با وایرد گفته بود که چنین نگاهی «بسیار خطرناک و گمراه کننده» است و باید همین حالا موضع روشنی در مخالفت با آن اتخاذ نمود.
این مطلب را گل چرم می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان گل چرم در مورد این مطلب