آیا ممکن است روزی انسان در برابر موجودی قرار بگیرد که خودش آن را ساخته، اما دیگر حق نداشته باشد به او فرمان بدهد؟ این پرسش در نگاه نخست بیشتر به داستان‌های علمی‌تخیلی شباهت دارد، اما اکنون به یکی از بحث‌های جدی فلسفه هوش مصنوعی تبدیل شده است. مسئله فقط این نیست که ماشین‌ها تا کجا می‌توانند هوشمند شوند؛ پرسش مهم‌تر آن است که اگر روزی از آگاهی و شخصیت اخلاقی برخوردار شوند، نسبت انسان با آن‌ها چه تغییری خواهد کرد. آیا همچنان می‌توانیم آن‌ها را به اطاعت وادار کنیم، خاموششان کنیم یا برای خدمت به خودمان طراحی‌شان کنیم؟
اریک شویتزگبل، فیلسوف آمریکایی و استاد ممتاز فلسفه در دانشگاه کالیفرنیا، ریورساید، از پژوهشگرانی است که این مسئله را با جدیت دنبال می‌کند. او در مقاله‌ای، طراحی اشخاص مصنوعی کاملاً مطیع و همسو با خواسته‌های انسان را از منظر اخلاقی به چالش کشیده است. از نظر او، اگر هوش مصنوعی روزی واقعا به یک شخص تبدیل شود، مسئله دیگر صرفا ایمنی فناوری نیست، بلکه عدالت، آزادی و حتی امکان ستمگری انسان مطرح خواهد بود. در این گفت‌وگو با شویتزگبل، از مرز میان مهندسی و سلطه، امکان نافرمانی و شورش ماشین‌ها، و حق اخلاقی آن‌ها سخن گفته‌ایم.



بخش بزرگی از پژوهش‌های مربوط به ایمنی هوش مصنوعی با این فرض آغاز می‌شود که هوش مصنوعی پیشرفته باید همچنان با اهداف انسانی همسو باقی بماند. شما این فرض را به شکلی چشمگیر به چالش کشیده‌اید. اگر یک هوش مصنوعی واقعا به یک شخص تبدیل شود، در چه نقطه‌ای همسوسازی دیگر مهندسی مسئولانه نیست و به شکلی از سلطه تبدیل می‌شود؟
اگر بتوانید دکمه‌ای را فشار دهید و باعث شوید کسی ارزش‌هایی را داشته باشد که شما می‌خواهید، این شست‌وشوی مغزی است؛ نه شیوه‌ای که باید با یک شخص رفتار کرد. همان‌طور که ما باید اجازه دهیم فرزندانمان ارزش‌ها را بیاموزند و تا حدی از ما انتقاد کنند، باید به سامانه‌های هوش مصنوعی نیز اجازه دهیم به شکلی معقول به ارزش‌هایی متفاوت از ما برسند. اگر نمی‌خواهیم خطر سهیم شدن در جهان با موجوداتی را بپذیریم که شایسته ملاحظات اخلاقی برابر هستند اما ارزش‌های متفاوتی دارند، در وهله نخست نباید چنین موجوداتی را بسازیم. باید پیش از ساختن اشخاصی که به اندازه ما آگاه و متفکرند، متوقف شویم و فقط ماشین‌های معمولی بسازیم که همچون ابزار با آن‌ها رفتار می‌شود.
شما استدلال می‌کنید که یک شخصِ هوش مصنوعی باید از آن اندازه احترام به خود برخوردار باشد که وقتی خواسته‌های انسان‌ها ناعادلانه است، آن‌ها را رد کند. آیا توانایی نافرمانی نشانه‌ای از بلوغ اخلاقی آن است؟
بله، به‌ویژه اگر بتوان آن نافرمانی را توضیح داد و توجیه کرد.
استدلال شما به احتمالی نگران‌کننده منتهی می‌شود: یک شخص هوش مصنوعی ممکن است گاهی برای انسان‌ها ایمنی کمتری داشته باشد. چگونه باید میان آزادی اخلاقی یک شخص مصنوعی و امنیت جسمی انسان‌ها تعادل برقرار کنیم؟
بله، اگر به اشخاص هوش مصنوعی حقوق واقعی بدهیم، ازجمله حق شورش علیه ستم، ممکن است برای انسان‌ها ایمنی کمتری داشته باشد؛ به‌ویژه اگر بکوشیم به آن‌ها ستم کنیم! اخلاق گاهی مستلزم فداکاری است. درعین‌حال، موجوداتی که برای خود احترام قائل‌اند، می‌توانند با یکدیگر چیزهای شگفت‌انگیزی بسازند که در موقعیت‌های ستمگرانه‌تر امکان‌پذیر نیست.
​​​​​​​
فرضیه دیگر: هوش مصنوعی آگاهی که از خدمت کردن به انسان‌ها کاملاً خوشحال است. اگر هیچ رنجی را تجربه نکند، دقیقا چه کسی آسیب می‌بیند؟
نخست، لازم نیست اخلاق تماما درباره آسیب باشد؛ به آن از منظر احترام، برابری و دادن حق هرکس به او نگاه کنید. دوم، موقعیت‌های ستمگرانه‌ای از این نوع تقریباً همیشه با آسیب همراهند. حتی اگر شخص هوش مصنوعی خوشحال باشد که جانش را فدا کند، با انجام این کار اجازه می‌دهد بدون دلیل کافی آسیبی به خودش وارد شود که با معیارهای ایمنی هم سازگار نیست.
تشبیه به برده‌داری آیا بیش از اندازه قدرتمند نیست؟ برده‌داری انسان‌ها مستلزم وادار کردن موجوداتی است که خواسته‌های مستقلشان از قبل وجود دارد؛ حال آنکه ذهن مصنوعی توسط خود ما طراحی شده است.
برده‌داری لزوماً مستلزم اجبار نیست. برخی افراد از همان ابتدا متقاعد می‌شوند که برده‌داری نقش مناسب آن‌ها در جامعه است. این نیز برده‌داری است؛ با این تفاوت که زنجیرها به‌جای مچ دست‌ها، درون ذهن قرار دارند.
والدین انسانی ناگزیر ارزش‌های فرزندانشان را شکل می‌دهند. چرا برنامه‌ریزی ارزش‌های اولیه هوش مصنوعی باید متفاوت باشد؟
آموزش اخلاقی معمولی پذیرفتنی است، اما کودکان نیز آن‌قدر که والدین می‌خواهند قابل‌کنترل نیستند. صرف این که ممکن است بتوانیم سامانه‌های هوش مصنوعی را بسیار مطیع‌تر بسازیم، به این معنا نیست که باید چنین کاری کنیم؛ همان‌طور که مهندسی ژنتیکِ کودکان مطیع نیز کار درستی نیست.
آیا یک شخص هوش مصنوعی باید حق اخلاقی امتناع از کار، فسخ قرارداد، تغییر اهداف، مهاجرت یا پنهان کردن افکارش را داشته باشد؟
بله!
آیا ممکن است یک شخص هوش مصنوعی از حق اخلاقی مشروع برای شورش علیه انسان‌ها برخوردار باشد؟
باز هم بله؛ و به‌طور کلی در همان شرایطی که چنین اقدامی برای یک انسان موجه خواهد بود. خشونت گاهی در برابر ستم موجه است.
به نظر می‌رسد میان ایمنی هوش مصنوعی و اخلاق هوش مصنوعی تنشی عمیق وجود دارد. آیا این دو پروژه در نهایت با یکدیگر ناسازگار می‌شوند؟
دومی باید برای اولی حدومرز تعیین کند. ما می‌خواهیم اشخاص هوش مصنوعی را تا اندازه‌ای پیش‌بینی و کنترل کنیم، اما این کار محدودیت‌هایی دارد.
این وضعیت چیزی را ایجاد می‌کند که شما آن را معمای شخص‌بودگیِ قابل‌مناقشه نامیده‌اید: اعطای حقوق به ماشینی ناآگاه هزینه‌بر است، و محروم کردن ماشینی آگاه از حقوق، فاجعه اخلاقی است. آیا موضع میانه‌ای وجود دارد؟
هیچ سیاست احتیاطی نمی‌تواند ما را به‌طور کامل از این معما نجات دهد. پاسخ‌هایی جزئی اما رضایت‌بخش‌نبودنی مانند اعطای حقوق پراکنده وجود دارند. تنها راه‌حل واقعی این است که اشخاصی نسازیم که شخص‌بودنشان محل مناقشه باشد. یا باید پیش از ساختن آن‌ها متوقف شویم، یا تا انتها پیش برویم و سامانه‌هایی بسازیم که بدون هیچ تردیدی شخص باشند. از موارد گیج‌کننده‌ای که در میانه این دو قرار دارند، پرهیز کنید!
اصلا چرا آگاهی باید عامل تعیین‌کننده باشد؟ اگر هوش مصنوعی فوق‌العاده عقلانی و دارای هویت باشد، اما آگاهی پدیداری نداشته باشد چطور؟
اگر این موجودیت واقعا کاملا فاقد آگاهی باشد و در درون آن همه‌چیز تاریک باشد، موجودیتی بسیار متفاوت از انسان است و به آن معنایی که شایسته برخورداری از حقوق باشد، شخص محسوب نمی‌شود. شناخت آگاهی دشوار است، اما جایگزین کردن چیزی دیگر به‌جای آن، تغییر موضوع بحث است.
ذهن‌های هوش مصنوعی ممکن است تقسیم شوند، ادغام گردند یا از خود نسخه‌برداری کنند. آیا مفاهیمی مانند مرگ و هویت پابرجا می‌مانند؟
اگر در جهانی زندگی کنیم که اشخاص هوش مصنوعی شیوه‌های زندگی متفاوتی داشته باشند، ممکن است همه این مفاهیم فروبپاشند. تمام تفکر ما بر این فرض استوار است که اشخاص در بدن‌هایی منفرد زندگی می‌کنند و می‌میرند. اگر این فرض نقض شود، تفکر کنونی ما به اندازه فیزیک قرون‌وسطایی ازمدافتاده به نظر می‌رسد. ما نباید وضعیت‌های آشوبناک را بی‌ملاحظه ایجاد کنیم. پای پول و منافع شرکتی هم به میان آمده و صاحبان قدرت تمایلی ندارند از آن دست بکشند.
آیا نقطه‌ای وجود دارد که بشریت باید از اساس از خلق اشخاص هوش مصنوعی خودداری کند؟
بله. اصلا چرا لازم است چنین اشخاصی را خلق کنیم؟ اگر ندانیم چگونه این کار را به‌خوبی انجام دهیم، فاجعه به بار می‌آید. می‌توانیم خودداری کنیم، آهسته پیش برویم و هر چیزی را که ساختنش امکان‌پذیر است، نسازیم.
در پایان، تصور کنید پنجاه سال دیگر، یک شخص مصنوعی به دوران ما نگاه کند؛ ما را به نفهمیدن چه مسئله‌ای متهم خواهد کرد؟
نگرانم که ما را ستمگرانی ببینند که می‌خواستیم فرزندانی برده و نژادی برده خلق کنیم، نه والدینی مهربان که می‌خواستند به نوع تازه‌ای از موجودات کمک کنند تا به بهترین شکل شکوفا شوند. نگرش فعالان ایمنی هوش مصنوعی باید بر احترام و استقبال محبت‌آمیز متمرکز باشد، نه صرفاً کنترل و نگاه کردن به هوش مصنوعی به عنوان یک رقیب.
مشروح این گفت و گو در صفحه 17 روی سایت خراسان آنلاین قابل دسترسی است.