هوش مصنوعی تصمیم اخلاقی نمیگیرد!
گفتوگو با پروفسور ویرجینیا دیگنوم، از چهرههای مطرح جهانی در حوزه هوش مصنوعی مسئولانه و استاد دانشگاه اومئو سوئدنویسنده: محمدجواد استادی پژوهشگر مطالعات فرهنگی
مترجم:
هوش مصنوعی دیگر صرفا یک فناوری آیندهنگرانه یا موضوعی محدود به آزمایشگاههای علوم رایانه نیست؛ امروز در متن زندگی اجتماعی، اقتصاد، سیاستگذاری عمومی، آموزش، پزشکی، رسانه و حتی داوریهای اخلاقی ما حضور دارد. همین حضور گسترده، پرسشی بنیادین را پیش روی ما میگذارد: اگر هوش مصنوعی خطا کند، تبعیض بسازد، به اعتماد عمومی آسیب بزند یا تصمیمهایی بگیرد که بر زندگی انسانها اثر بگذارد، چه کسی باید پاسخگو باشد؟
پروفسور ویرجینیا دیگنوم، یکی از چهرههای برجسته جهانی در حوزه هوش مصنوعی مسئولانه، دقیقا در مرکز همین بحث ایستاده است. او استاد هوش مصنوعی مسئولانه در دانشگاه اومئو سوئد و مدیر آزمایشگاه سیاستگذاری هوش مصنوعی در این دانشگاه است. دیگنوم همچنین عضو نهادهای مهم بینالمللی در حوزه حکمرانی هوش مصنوعی بوده و در گفتوگوهای جهانی درباره نسبت فناوری، اخلاق، حقوق بشر و سیاستگذاری عمومی نقشی اثرگذار دارد.
کتاب او با عنوان هوش مصنوعی مسئولانه، از جمله آثار مهمی است که تلاش میکند بحث اخلاق هوش مصنوعی را از سطح شعارهای کلی فراتر ببرد و آن را به مسئلهای عملی، نهادی و قابل پیگیری تبدیل کند. دیگنوم در این گفتوگو بر نکتهای کلیدی تأکید میکند: ماشینها مسئول نیستند؛ آنها فهم اخلاقی ندارند و تصمیم اخلاقی نمیگیرند. مسئولیت همچنان برعهده انسانها، نهادها، شرکتها، دولتها و سازوکارهای حکمرانی است.
وقتی از «هوش مصنوعی مسئولانه» سخن میگوییم، در نهایت چه کسی مسئول است: طراحان، شرکتها، دولتها یا خود سامانهها؟
مسئولیت در این زمینه میان همه ذینفعان توزیع شده است. طراحان در قبال نحوه پیادهسازی و ساخت سامانه مسئولاند؛ شرکتها در برابر چگونگی بهکارگیری و استقرار آن مسئولیت دارند؛ دولتها مسئول تدوین چارچوبهای حکمرانی و تنظیمگری هستند؛ و کاربران نیز در قبال انتخاب خود برای استفاده از این فناوری مسئولاند. اما خود سامانهها کنشگران اخلاقی نیستند. هوش مصنوعی هرگز موجود یا نهادی نیست که بتوان مسئولیت اخلاقی را به آن نسبت داد.
آیا «مسئولیت» در حوزه هوش مصنوعی، در درجه نخست مفهومی اخلاقی است یا باید آن را در قالب اصطلاحات و سازوکارهای عینی مهندسی عملیاتی کرد؟
هر دو. مسئولیت باید از طریق رویهها و اقدامات عینی و مشخص عملیاتی شود؛ اقداماتی که شامل استانداردهای فنی، فرایندهای سازمانی و سازوکارهای پاسخگویی است. با این حال، این عملیاتیسازی باید بر اصول اخلاقی استوار باشد. اخلاق یک نتیجه نهایی یا محصول آماده نیست، بلکه یک فرایند است؛ فرایندی برای فهم انتخابهایی که انجام میدهیم و پیامدهایی که این انتخابها به همراه دارند.
آیا تلاش برای تحقق هوش مصنوعی مسئولانه، میتواند در نهایت نوآوری را محدود کند؟
خیر. هوش مصنوعی مسئولانه، برخلاف این تصور، امکان نوآوری پایدار را فراهم میکند؛ زیرا از آسیبهایی جلوگیری میکند که در غیر این صورت میتوانند به واکنشهای محدودکننده، مقررات سختگیرانهتر یا فرسایش اعتماد عمومی منجر شوند. هیچ حوزه فناورانهای بدون نوعی تنظیمگری دوام نمیآورد؛ از ترافیک گرفته تا پزشکی و برق و هر نمونه دیگری که درنظر بگیریم. کسانی که خلاف این را ادعا میکنند، در واقع غالبا امیدوارند خودشان کسانی باشند که قواعد را تعیین میکنند؛ قواعدی که به سودشان تمام میشود. تنظیمگری مانع نوآوری نیست، بلکه سکوی آغاز و شرط لازم برای نوآوری پایدار است.
آیا باور دارید که سامانههای هوش مصنوعی ممکن است نوعی «اخلاق درونی» پیدا کنند؟
خیر. سامانههای هوش مصنوعی بر اساس بهینهسازی عمل میکنند، نه بر پایه استدلال اخلاقی. آنچه ما از آن با عنوان «اخلاق» در هوش مصنوعی یاد میکنیم، باید از طریق انتخابهای طراحی که انسانها انجام میدهند در این سامانهها گنجانده شود؛ نه اینکه خود سامانهها مستقلا واجد نوعی اخلاق درونی باشند.
برخی منتقدان میگویند «هوش مصنوعی مسئولانه» مفهومی بیش از حد مبهم یا شعاری است. چگونه میتوان آن را به معیارهای قابل سنجش تبدیل کرد؟
این کار از طریق ارزیابیهای اثرگذاری، ممیزیهای الگوریتمی، پروتکلهای مشارکت ذینفعان، الزامات مربوط به مستندسازی و سازوکارهای مشخص جبران و رسیدگی به خسارت امکانپذیر است. هوش مصنوعی مسئولانه صرفا مجموعهای از اصول کلی و انتزاعی نیست، بلکه باید در عمل و در قالب فرایندها، معیارها و سازوکارهای اجرایی مشخص، عملیاتی شود.
برخی معتقدند اخلاق هوش مصنوعی به شکلی از «اعتبارشویی» برای شرکتها تبدیل شده است. چگونه میتوان این خطر را کاهش داد؟
متأسفانه این سخن تا حد زیادی درست است. بسیاری از تلاشهایی که در این زمینه انجام میشود، چیزی بیش از نوعی شستوشوی اعتباری یا ظاهرسازی سازمانی نیست. برای کاهش این خطر، باید نظارت مستقل وجود داشته باشد، ارزیابیهای اثرگذاری بهصورت الزامآور انجام شود، مشارکت معنادار ذینفعان تضمین گردد و سازوکارهای اجرایی و نظارتیای در کار باشد که پیامدهای واقعی و قابل توجهی برای تخلف یا بیمسئولیتی به همراه داشته باشد.
نسبت میان هوش مصنوعی مسئولانه و سیاستگذاری عمومی چیست؟ آیا هوش مصنوعی مسئولانه، میتواند بدون تنظیمگری قوی بهطور مؤثر عمل کند؟
هوش مصنوعی مسئولانه برای آنکه واقعا مؤثر باشد، هم به رویهها و اقدامات داوطلبانه صنعت نیاز دارد و هم به تنظیمگری نیرومند. تکیه صرف بر خودتنظیمگری شرکتها و واگذاری کامل مسئولیت به خود صنعت کافی نیست و نمیتواند تضمین کند که اصول مسئولیتپذیری در عمل رعایت شوند.
آیا باید برای هوش مصنوعی استانداردهای جهانی وجود داشته باشد، یا هر جامعهای باید چارچوب اخلاقی خاص خود را تعریف کند؟
هر دو. از یک سو، باید اصول جهانشمول حقوق بشر بهعنوان مبنای مشترک مورد توجه قرار گیرد؛ اصولی که فراتر از مرزهای ملی و تفاوتهای فرهنگی اعتبار دارند. از سوی دیگر، نحوه اجرای این اصول باید متناسب با زمینههای خاص هر جامعه باشد و ارزشهای محلی، شرایط فرهنگی و چارچوبهای حقوقی هر کشور را بازتاب دهد.
نقش نهادهایی مانند اتحادیه اروپا را در حکمرانی هوش مصنوعی چگونه ارزیابی میکنید؟
اتحادیه اروپا با پیشگامی در تدوین قانون هوش مصنوعی و قرار دادن حقوق بشر در مرکز بحث، چارچوب درستی را برگزیده است. با این حال، مسئله اصلی این است که اجرای این چارچوبها در عمل مؤثر باشد و صرفا به نوعی نمایش تبعیت از مقررات یا اجرای صوری الزامات قانونی تبدیل نشود.
آیا کشورهای در حال توسعه در این گفتوگوهای جهانی به حاشیه رانده میشوند؟
نه لزوما. روشن است که بخش بزرگی از تحولات اصلی و جریان مسلط در حوزه هوش مصنوعی عمدتا در ایالات متحده یا چین شکل میگیرد، اما گفتوگوهای جهانی در این زمینه در حال دربرگرفتن صداهای متنوعتری هستند. افزون بر این، من بیش از پیش شاهد ظهور بدیلها و رویکردهای تازهای از سوی جنوب جهانی هستم. هوش مصنوعی فقط به هوش مصنوعی مولد یا سامانههایی که بر حجمهای عظیم و حتی نامتعارف داده متکیاند محدود نمیشود. تغییرات مهم در آینده از مناطق و جوامع دیگری نیز خواهد آمد و این اتفاقی مثبت و ارزشمند است.
آیا سامانهها میتوانند بدون فهم واقعی ارزشهای انسانی، بهراستی مسئولانه باشند؟
سامانهها هرگز مسئول نیستند. آنها «فهم» به معنای واقعی کلمه ندارند، بلکه انتخابهایی را کدگذاری و بازنمایی میکنند که طراحان درباره ارزشها انجام دادهاند. فهم حقیقی ارزشهای انسانی نیازمند داوری انسانی در زمینه و موقعیت مشخص است؛ چیزی که از خود سامانههای هوش مصنوعی برنمیآید.
اگر یک سامانه هوش مصنوعی تصمیمی «اخلاقی» بگیرد که با ارزشهای یک جامعه خاص در تعارض باشد، چه کسی باید حرف نهایی را بزند؟
ماشینها تصمیمهای اخلاقی نمیگیرند. آنها صرفا بر اساس پارامترهایی که ما تعیین میکنیم، فرایند بهینهسازی را انجام میدهند. در نهایت، آنچه به آن نیاز داریم فرایندهای حکمرانی دموکراتیک است؛ نه اینکه تصمیمگیری درباره مسائل ارزشی و اخلاقی را به نوعی تطبیق الگوهای فنی و محاسباتی فروبکاهیم.
آیا هوش مصنوعی مسئولانه، میتواند به ابزاری برای تحمیل ارزشهای فرهنگی خاص، برای مثال هنجارهای غربی، در مقیاس جهانی تبدیل شود؟
ما پیشتر با چنین وضعیتی در شبکههای اجتماعی و اینترنت روبهرو بودهایم. یعنی خطر تحمیل یا گسترش ارزشهای فرهنگی خاص از طریق فناوری، پدیدهای تازه نیست و همین حالا نیز در زیرساختهای دیجیتال جهانی تجربه شده است.
اگر در طراحی هوش مصنوعی ناچار باشید یکی را در اولویت قرار دهید، کارآمدی یا اخلاق را انتخاب میکنید؟ چرا؟
این یک دوگانه نادرست است. سامانههایی که اخلاق را نادیده میگیرند، در نهایت شکست میخورند؛ چه از طریق آسیبهایی که ایجاد میکنند، چه از مسیر دعاوی حقوقی و چه به دلیل از دست رفتن اعتماد عمومی. اخلاق در برابر کارآمدی قرار ندارد، بلکه امکان شکلگیری کارآمدی پایدار و قابل اتکا را فراهم میکند.
پروفسور ویرجینیا دیگنوم، یکی از چهرههای برجسته جهانی در حوزه هوش مصنوعی مسئولانه، دقیقا در مرکز همین بحث ایستاده است. او استاد هوش مصنوعی مسئولانه در دانشگاه اومئو سوئد و مدیر آزمایشگاه سیاستگذاری هوش مصنوعی در این دانشگاه است. دیگنوم همچنین عضو نهادهای مهم بینالمللی در حوزه حکمرانی هوش مصنوعی بوده و در گفتوگوهای جهانی درباره نسبت فناوری، اخلاق، حقوق بشر و سیاستگذاری عمومی نقشی اثرگذار دارد.
کتاب او با عنوان هوش مصنوعی مسئولانه، از جمله آثار مهمی است که تلاش میکند بحث اخلاق هوش مصنوعی را از سطح شعارهای کلی فراتر ببرد و آن را به مسئلهای عملی، نهادی و قابل پیگیری تبدیل کند. دیگنوم در این گفتوگو بر نکتهای کلیدی تأکید میکند: ماشینها مسئول نیستند؛ آنها فهم اخلاقی ندارند و تصمیم اخلاقی نمیگیرند. مسئولیت همچنان برعهده انسانها، نهادها، شرکتها، دولتها و سازوکارهای حکمرانی است.
وقتی از «هوش مصنوعی مسئولانه» سخن میگوییم، در نهایت چه کسی مسئول است: طراحان، شرکتها، دولتها یا خود سامانهها؟
مسئولیت در این زمینه میان همه ذینفعان توزیع شده است. طراحان در قبال نحوه پیادهسازی و ساخت سامانه مسئولاند؛ شرکتها در برابر چگونگی بهکارگیری و استقرار آن مسئولیت دارند؛ دولتها مسئول تدوین چارچوبهای حکمرانی و تنظیمگری هستند؛ و کاربران نیز در قبال انتخاب خود برای استفاده از این فناوری مسئولاند. اما خود سامانهها کنشگران اخلاقی نیستند. هوش مصنوعی هرگز موجود یا نهادی نیست که بتوان مسئولیت اخلاقی را به آن نسبت داد.
آیا «مسئولیت» در حوزه هوش مصنوعی، در درجه نخست مفهومی اخلاقی است یا باید آن را در قالب اصطلاحات و سازوکارهای عینی مهندسی عملیاتی کرد؟
هر دو. مسئولیت باید از طریق رویهها و اقدامات عینی و مشخص عملیاتی شود؛ اقداماتی که شامل استانداردهای فنی، فرایندهای سازمانی و سازوکارهای پاسخگویی است. با این حال، این عملیاتیسازی باید بر اصول اخلاقی استوار باشد. اخلاق یک نتیجه نهایی یا محصول آماده نیست، بلکه یک فرایند است؛ فرایندی برای فهم انتخابهایی که انجام میدهیم و پیامدهایی که این انتخابها به همراه دارند.
آیا تلاش برای تحقق هوش مصنوعی مسئولانه، میتواند در نهایت نوآوری را محدود کند؟
خیر. هوش مصنوعی مسئولانه، برخلاف این تصور، امکان نوآوری پایدار را فراهم میکند؛ زیرا از آسیبهایی جلوگیری میکند که در غیر این صورت میتوانند به واکنشهای محدودکننده، مقررات سختگیرانهتر یا فرسایش اعتماد عمومی منجر شوند. هیچ حوزه فناورانهای بدون نوعی تنظیمگری دوام نمیآورد؛ از ترافیک گرفته تا پزشکی و برق و هر نمونه دیگری که درنظر بگیریم. کسانی که خلاف این را ادعا میکنند، در واقع غالبا امیدوارند خودشان کسانی باشند که قواعد را تعیین میکنند؛ قواعدی که به سودشان تمام میشود. تنظیمگری مانع نوآوری نیست، بلکه سکوی آغاز و شرط لازم برای نوآوری پایدار است.
آیا باور دارید که سامانههای هوش مصنوعی ممکن است نوعی «اخلاق درونی» پیدا کنند؟
خیر. سامانههای هوش مصنوعی بر اساس بهینهسازی عمل میکنند، نه بر پایه استدلال اخلاقی. آنچه ما از آن با عنوان «اخلاق» در هوش مصنوعی یاد میکنیم، باید از طریق انتخابهای طراحی که انسانها انجام میدهند در این سامانهها گنجانده شود؛ نه اینکه خود سامانهها مستقلا واجد نوعی اخلاق درونی باشند.
برخی منتقدان میگویند «هوش مصنوعی مسئولانه» مفهومی بیش از حد مبهم یا شعاری است. چگونه میتوان آن را به معیارهای قابل سنجش تبدیل کرد؟
این کار از طریق ارزیابیهای اثرگذاری، ممیزیهای الگوریتمی، پروتکلهای مشارکت ذینفعان، الزامات مربوط به مستندسازی و سازوکارهای مشخص جبران و رسیدگی به خسارت امکانپذیر است. هوش مصنوعی مسئولانه صرفا مجموعهای از اصول کلی و انتزاعی نیست، بلکه باید در عمل و در قالب فرایندها، معیارها و سازوکارهای اجرایی مشخص، عملیاتی شود.
برخی معتقدند اخلاق هوش مصنوعی به شکلی از «اعتبارشویی» برای شرکتها تبدیل شده است. چگونه میتوان این خطر را کاهش داد؟
متأسفانه این سخن تا حد زیادی درست است. بسیاری از تلاشهایی که در این زمینه انجام میشود، چیزی بیش از نوعی شستوشوی اعتباری یا ظاهرسازی سازمانی نیست. برای کاهش این خطر، باید نظارت مستقل وجود داشته باشد، ارزیابیهای اثرگذاری بهصورت الزامآور انجام شود، مشارکت معنادار ذینفعان تضمین گردد و سازوکارهای اجرایی و نظارتیای در کار باشد که پیامدهای واقعی و قابل توجهی برای تخلف یا بیمسئولیتی به همراه داشته باشد.
نسبت میان هوش مصنوعی مسئولانه و سیاستگذاری عمومی چیست؟ آیا هوش مصنوعی مسئولانه، میتواند بدون تنظیمگری قوی بهطور مؤثر عمل کند؟
هوش مصنوعی مسئولانه برای آنکه واقعا مؤثر باشد، هم به رویهها و اقدامات داوطلبانه صنعت نیاز دارد و هم به تنظیمگری نیرومند. تکیه صرف بر خودتنظیمگری شرکتها و واگذاری کامل مسئولیت به خود صنعت کافی نیست و نمیتواند تضمین کند که اصول مسئولیتپذیری در عمل رعایت شوند.
آیا باید برای هوش مصنوعی استانداردهای جهانی وجود داشته باشد، یا هر جامعهای باید چارچوب اخلاقی خاص خود را تعریف کند؟
هر دو. از یک سو، باید اصول جهانشمول حقوق بشر بهعنوان مبنای مشترک مورد توجه قرار گیرد؛ اصولی که فراتر از مرزهای ملی و تفاوتهای فرهنگی اعتبار دارند. از سوی دیگر، نحوه اجرای این اصول باید متناسب با زمینههای خاص هر جامعه باشد و ارزشهای محلی، شرایط فرهنگی و چارچوبهای حقوقی هر کشور را بازتاب دهد.
نقش نهادهایی مانند اتحادیه اروپا را در حکمرانی هوش مصنوعی چگونه ارزیابی میکنید؟
اتحادیه اروپا با پیشگامی در تدوین قانون هوش مصنوعی و قرار دادن حقوق بشر در مرکز بحث، چارچوب درستی را برگزیده است. با این حال، مسئله اصلی این است که اجرای این چارچوبها در عمل مؤثر باشد و صرفا به نوعی نمایش تبعیت از مقررات یا اجرای صوری الزامات قانونی تبدیل نشود.
آیا کشورهای در حال توسعه در این گفتوگوهای جهانی به حاشیه رانده میشوند؟
نه لزوما. روشن است که بخش بزرگی از تحولات اصلی و جریان مسلط در حوزه هوش مصنوعی عمدتا در ایالات متحده یا چین شکل میگیرد، اما گفتوگوهای جهانی در این زمینه در حال دربرگرفتن صداهای متنوعتری هستند. افزون بر این، من بیش از پیش شاهد ظهور بدیلها و رویکردهای تازهای از سوی جنوب جهانی هستم. هوش مصنوعی فقط به هوش مصنوعی مولد یا سامانههایی که بر حجمهای عظیم و حتی نامتعارف داده متکیاند محدود نمیشود. تغییرات مهم در آینده از مناطق و جوامع دیگری نیز خواهد آمد و این اتفاقی مثبت و ارزشمند است.
آیا سامانهها میتوانند بدون فهم واقعی ارزشهای انسانی، بهراستی مسئولانه باشند؟
سامانهها هرگز مسئول نیستند. آنها «فهم» به معنای واقعی کلمه ندارند، بلکه انتخابهایی را کدگذاری و بازنمایی میکنند که طراحان درباره ارزشها انجام دادهاند. فهم حقیقی ارزشهای انسانی نیازمند داوری انسانی در زمینه و موقعیت مشخص است؛ چیزی که از خود سامانههای هوش مصنوعی برنمیآید.
اگر یک سامانه هوش مصنوعی تصمیمی «اخلاقی» بگیرد که با ارزشهای یک جامعه خاص در تعارض باشد، چه کسی باید حرف نهایی را بزند؟
ماشینها تصمیمهای اخلاقی نمیگیرند. آنها صرفا بر اساس پارامترهایی که ما تعیین میکنیم، فرایند بهینهسازی را انجام میدهند. در نهایت، آنچه به آن نیاز داریم فرایندهای حکمرانی دموکراتیک است؛ نه اینکه تصمیمگیری درباره مسائل ارزشی و اخلاقی را به نوعی تطبیق الگوهای فنی و محاسباتی فروبکاهیم.
آیا هوش مصنوعی مسئولانه، میتواند به ابزاری برای تحمیل ارزشهای فرهنگی خاص، برای مثال هنجارهای غربی، در مقیاس جهانی تبدیل شود؟
ما پیشتر با چنین وضعیتی در شبکههای اجتماعی و اینترنت روبهرو بودهایم. یعنی خطر تحمیل یا گسترش ارزشهای فرهنگی خاص از طریق فناوری، پدیدهای تازه نیست و همین حالا نیز در زیرساختهای دیجیتال جهانی تجربه شده است.
اگر در طراحی هوش مصنوعی ناچار باشید یکی را در اولویت قرار دهید، کارآمدی یا اخلاق را انتخاب میکنید؟ چرا؟
این یک دوگانه نادرست است. سامانههایی که اخلاق را نادیده میگیرند، در نهایت شکست میخورند؛ چه از طریق آسیبهایی که ایجاد میکنند، چه از مسیر دعاوی حقوقی و چه به دلیل از دست رفتن اعتماد عمومی. اخلاق در برابر کارآمدی قرار ندارد، بلکه امکان شکلگیری کارآمدی پایدار و قابل اتکا را فراهم میکند.
10 صفحه اول
پربازدیدترین اخبار
اخبار برگزیده
