فهرست مجلات
الگوها (نیویورک)
جلد 2، شماره 10؛ 8 اکتبر 2021
PMC8515007

8 اکتبر 2021؛ 2(10): 100362.
خلاصه
اتحادیه اروپا (EU) از نظر توسعه دستورالعمل‌های استفاده اخلاقی از هوش مصنوعی (AI) به طور کلی، شهرت و سابقه قوی دارد. در این مقاله، به بررسی توسعه چارچوب هوش مصنوعی و اخلاقی توسط سازمان نظارت بر بیمه و بازنشستگی شغلی اروپا (EIOPA) برای بازار بیمه اروپا می‌پردازیم. گزارش قبلی EIOPA در مورد تجزیه و تحلیل داده‌های بزرگ (EIOPA، 2019) مبنایی را برای تجزیه و تحلیل طیف گسترده و پیچیده مسائل مرتبط با استقرار هوش مصنوعی در بیمه، مانند بیمه رفتاری، محصولات پارامتریک، الگوریتم‌های جدید قیمت‌گذاری و ارزیابی ریسک، خدمات الکترونیکی و مدیریت خسارت فراهم کرد. این مقاله مروری بر هوش مصنوعی در کاربردهای بیمه در سراسر زنجیره ارزش بیمه ارائه می‌دهد. بحثی کلی در مورد اخلاق، هوش مصنوعی و بیمه ارائه شده و یک مدل سلسله مراتبی جدید ارائه شده است که بیمه را به عنوان یک سیستم پیچیده توصیف می‌کند که می‌توان با اتخاذ رویکردی لایه‌ای و چند سطحی، مسائل اخلاقی را مستقیماً به سطح(های) خاصی مرتبط کرد.
کلیدواژه‌ها: تجزیه و تحلیل داده‌ها، بیمه، InsurTech، هوش مصنوعی، اخلاق هوش مصنوعی، مقررات هوش مصنوعی، حکمرانی هوش مصنوعی، ریسک
نکات برجسته

•
چارچه‌بندی اجتماعی-اخلاقی از BDA، هوش مصنوعی و ML در خط لوله بیمه
•
تحلیل هوش مصنوعی در عملیات بیمه در رابطه با داده‌های رفتاری مشتری

تصویر بزرگتر
تجزیه و تحلیل داده‌های بزرگ و اشکال پیچیده‌تر هوش مصنوعی (AI) و یادگیری ماشین اکنون بخشی از فهرست ابزارها و روش‌هایی هستند که عملیات پشتی و جلویی صنعت بیمه را اطلاع‌رسانی می‌کنند. محصولات و خدمات بیمه برای حمایت از توسعه اقتصادی و اجتماعی مهم هستند. از بیمه اموال تجاری گرفته تا بیمه خودرو و بیمه سلامت شخصی، در دسترس بودن و دسترسی به محصولات بیمه مقرون به صرفه برای جامعه و شهروندان کلیدی است. با این حال، محصولات و خدمات بیمه تنها در صورتی قابل دسترسی هستند که تعادل پایدار بین قیمت‌گذاری سیاست‌ها، هزینه‌های عملیاتی و خسارات حاصل شود. هوش مصنوعی و یادگیری ماشین در حال حاضر در حفظ این تعادل برای صنعت بیمه ارزشمند ثابت شده‌اند. با این حال، با افزایش استفاده از هوش مصنوعی و یادگیری ماشین، خطرات و مسائل اخلاقی جدیدی به خط لوله بیمه معرفی می‌شوند. بر این اساس، نیاز به بررسی زمینه‌های اخلاقی و مسائل مربوط به استفاده از داده‌ها در نوآوری بیمه و برجسته کردن تنش‌ها و نگرانی‌های نوظهور وجود دارد. این مقاله با ترکیب تخصص متخصصان بیمه و یک متخصص اخلاق هوش مصنوعی، به ارزیابی و درک بهتر برخی از زمینه‌های اخلاقی مربوط به تنش‌های مربوط به نحوه استفاده صنعت بیمه از تجزیه و تحلیل داده‌های بزرگ، هوش مصنوعی و روش‌های یادگیری ماشین برای حفظ عملیات تجاری خود می‌پردازد.
هدف از این تحقیق ارائه بررسی عمیقی از سؤالات و زمینه‌های اخلاقی فزاینده مربوط به استفاده پیچیده صنعت بیمه از تجزیه و تحلیل داده‌های بزرگ، هوش مصنوعی و یادگیری ماشین برای حفظ و توسعه محصولات و خدمات خود است. در حالی که فرصت‌های تجاری واضح است، سؤالاتی در مورد هزینه‌های مزایای تجاری از نظر نحوه استفاده از داده‌ها و اینکه آیا این استفاده منجر به تنش‌های بیشتر در مورد حریم خصوصی، نظارت و پروفایل‌سازی می‌شود، وجود دارد. این مقاله با ترکیب تخصص متخصصان بیمه و یک متخصص اخلاق هوش مصنوعی، به ارزیابی و درک بهتر برخی از زمینه‌های اخلاقی مربوط به تنش‌های مربوط به نحوه استفاده صنعت بیمه از تجزیه و تحلیل داده‌های بزرگ، هوش مصنوعی و روش‌های یادگیری ماشین برای حفظ عملیات تجاری خود می‌پردازد.
مقدمه
در 12 ماه گذشته، دو تن از نویسندگان این مقاله با گروه کارشناسان سازمان نظارت بر بیمه و بازنشستگی شغلی اروپا (EIOPA) در زمینه اخلاق دیجیتال در حال ایجاد مجموعه‌ای از دستورالعمل‌ها در مورد استفاده اخلاقی از هوش مصنوعی (AI) و تجزیه و تحلیل داده‌های بزرگ توسط صنعت بیمه بوده‌اند. این گزارش در ژوئن 2021 منتشر شد.1 این گروه از نمایندگان صنعت بیمه، سازمان‌های غیردولتی (NGO) همراه با اتحادیه‌های کارگری و اعضای دانشگاه تشکیل شده است. از نظر کارهای قبلی در این زمینه، این گروه یکی از نقاط شروع خود را گزارش EIOPA در مورد تجزیه و تحلیل داده‌های بزرگ (BDA) در بیمه خودرو و سلامت قرار داده بود.2 بحث‌ها در این گروه بر چگونگی اطمینان از حمایت از حقوق مصرف‌کننده یا شهروند در عین بهره‌مندی صنعت بیمه از فناوری‌ها و تکنیک‌های جدید در زمینه پردازش داده‌ها و داده‌های بزرگ که اغلب شامل یادگیری ماشین و هوش مصنوعی است، متمرکز شده است. به طور کلی، مصالحه‌های آشکار بین نگرانی‌های مربوط به حریم خصوصی و توانایی شرکت‌ها برای نوآوری، ماهیت استقرار هوش مصنوعی را تعیین می‌کند.3 به عبارت دیگر، ما نقش اساسی این گروه را در سنجش تعادل بین نوآوری در این زمینه با پتانسیل پیامدهای منفی می‌دانیم. در طول سال گذشته، اعضای این گروه به مزایای بسیاری از BDA اشاره کرده‌اند. این موارد شامل بهبود ایمنی جاده با استفاده از داده‌های تله‌ماتیک،4، 5، 6، 7، 8 و همچنین چگونگی بهبود تجزیه و تحلیل که به گروه‌هایی که قبلاً بیمه کردن آنها دشوار بود، اجازه می‌دهد تا با ارائه بیمه مبتنی بر استفاده جدید بر اساس تله‌ماتیک،9، 10، 11، 12، 13 تحت پوشش بیمه قرار گیرند. همچنین مداخلاتی از اعضایی وجود داشته است که در مورد پیامدهای استقرار این فناوری جدید برای گروه‌های آسیب‌پذیر و تأثیرات احتمالی در مورد فراگیری مالی11 نگران هستند. نگرانی‌های گسترده‌تری نیز در حوزه تحقیق وجود دارد که به کاربردهای تجاری داده‌های کاربر و تنش با نگرانی‌های مربوط به حریم خصوصی،14، 15، 16، 17 پروفایل‌سازی،11،18 و ادراک کاربر19 اشاره دارد. بحث‌های گسترده‌ای نیز در مورد پتانسیل عدم شفافیت در این تکنیک‌های جدید ارزیابی ریسک و نیاز به هدف‌گذاری قابلیت توضیح‌پذیری20،21 وجود داشته است. اینها تنها نمونه کوچکی از بحث‌هایی هستند که انجام شده و به روایت‌های موجود و نوظهور در مورد اختلال، همبستگی بیمه و نگرانی‌های اجتماعی22 اشاره دارند.
موضع اولیه ما در این مرحله این است که ما می‌پذیریم که مزایای عملیاتی، ایمنی، کاربر و اجتماعی و خطرات قابل توجهی توسط معرفی BDA و هوش مصنوعی/یادگیری ماشین به صنعت بیمه ایجاد می‌شود.23،24 بنابراین، این مقاله بر صنعت بیمه تمرکز دارد که یک کاربر نهایی کلیدی از داده‌های بزرگ است و دارای مجموعه روابط اجتماعی منحصر به فرد و عمیقی است که عمل آن را زیربنا می‌کند. بر این اساس، هر گونه تحلیل اخلاقی باید در جزئیات اجتماعی-فناورانه نوع روابط ایجاد شده توسط این مجموعه جدید از شیوه‌ها و در دسترس بودن برنامه‌های کاربردی متمرکز بر داده‌ها ریشه داشته باشد. در نقاط مختلف زنجیره ارزش بیمه، می‌توان تنش‌ها را از نظر معضلات اخلاقی که بیشتر یا کمتر حاد هستند، ثبت کرد. یک راه کلی برای پیمایش آنچه EIOPA به عنوان "اخلاق دیجیتال" در خدمات بیمه مطرح می‌کند، این است که هوش مصنوعی و برنامه‌های کاربردی دیجیتال را به عنوان روابط اجتماعی-فناورانه متصور شویم. این امر در مورد بیمه سلامت و خودرو با اشاره به یک هستی‌شناسی رابطه‌ای یا ارتباط بین استفاده تجاری از داده‌ها و استفاده شهروندان از داده‌ها در حال ظهور است.25 این الزام برای درک ارتباط، در ساختار کار در گروه کارشناسی نهفته است، با زیرگروه‌های مختلفی که به حوزه‌های تجاری یا خطوط بیمه متمایز می‌پردازند. به عنوان مثال، تفاوت‌هایی در روابطی وجود دارد که در زمینه بیمه سلامت در مقایسه با خطوط بیمه مسکن وجود دارد. در حالی که هر دو در یک کاربرد تجاری متحد شده‌اند، روابط متنوعی وجود دارد که هنوز نامشخص است و نیاز به بررسی دارد. این امر امکان ثبت دقیق‌تر باروری موارد مختلفی را که ارائه می‌شوند، فراهم می‌کند. سرعت نوآوری تغییرات زیادی را در زمینه ثبت و پیش‌بینی روابط اجتماعی ایجاد می‌کند. اخلاق نیز با این چالش سازگار می‌شود، همانطور که در حرکت به سمت اخلاق رابطه‌ای و حرکت به سمت تجربی در بحث‌های مربوط به اخلاق فناوری شناسایی شده است (به فصل 1 از Vallor، S.، 2016. Technology and the virtues: A philosophical guide to a future worth wanting. Oxford University Press).26
شکی نیست که BDA بر عملیات بیمه تجاری تأثیر می‌گذارد و پتانسیل ایجاد تغییرات چشمگیر و اختلال با تغییر پارادایم رژیم‌های اطلاعاتی سنتی که بیمه در آن عمل می‌کند را دارد.27، 28، 29 دسترسی به انبوهی از اطلاعات شخصی در مورد مشتریان فعلی و بالقوه به بیمه‌گران راهی برای مدیریت بهتر مسائل طولانی‌مدت مربوط به اطلاعات نامتقارن و خطر اخلاقی30، 31، 32، 33، 34 می‌دهد. هر دوی این موارد با افزایش استفاده از هوش مصنوعی و یادگیری ماشین پیچیده‌تر می‌شوند و خطرات و سؤالات اخلاقی جدیدی به خط لوله بیمه معرفی می‌شوند. بر این اساس، نیاز به بررسی زمینه‌های اخلاقی و سؤالات مربوط به استفاده از داده‌ها در نوآوری بیمه و برجسته کردن تنش‌ها و نگرانی‌های نوظهور وجود دارد. این مقاله با ترکیب تخصص متخصصان بیمه و یک متخصص اخلاق هوش مصنوعی، به ارزیابی و درک بهتر برخی از زمینه‌های اخلاقی مربوط به تنش‌های مربوط به نحوه استفاده صنعت بیمه از تجزیه و تحلیل داده‌های بزرگ، هوش مصنوعی و روش‌های یادگیری ماشین برای حفظ عملیات تجاری خود می‌پردازد.
هدف از این تحقیق ارائه بررسی عمیقی از سؤالات و زمینه‌های اخلاقی فزاینده مربوط به استفاده پیچیده صنعت بیمه از تجزیه و تحلیل داده‌های بزرگ، هوش مصنوعی و یادگیری ماشین برای حفظ و توسعه محصولات و خدمات خود است. در حالی که فرصت‌های تجاری واضح است، سؤالاتی در مورد هزینه‌های مزایای تجاری از نظر نحوه استفاده از داده‌ها و اینکه آیا این استفاده منجر به تنش‌های بیشتر در مورد حریم خصوصی، نظارت و پروفایل‌سازی می‌شود، وجود دارد.
مقدمه
در طول 12 ماه گذشته، دو تن از نویسندگان این مقاله با گروه کارشناسان سازمان نظارت بر بیمه و بازنشستگی شغلی اروپا (EIOPA) در زمینه اخلاق دیجیتال در حال ایجاد مجموعه‌ای از دستورالعمل‌ها در مورد استفاده اخلاقی از هوش مصنوعی (AI) و تجزیه و تحلیل داده‌های بزرگ توسط صنعت بیمه بوده‌اند. این گزارش در ژوئن 2021 منتشر شد.1 این گروه از نمایندگان صنعت بیمه، سازمان‌های غیردولتی (NGO) همراه با اتحادیه‌های کارگری و اعضای دانشگاه تشکیل شده است. از نظر کارهای قبلی در این زمینه، این گروه یکی از نقاط شروع خود را گزارش EIOPA در مورد تجزیه و تحلیل داده‌های بزرگ (BDA) در بیمه خودرو و سلامت قرار داده بود.2 بحث‌ها در این گروه بر چگونگی اطمینان از حمایت از حقوق مصرف‌کننده یا شهروند در عین بهره‌مندی صنعت بیمه از فناوری‌ها و تکنیک‌های جدید در زمینه پردازش داده‌ها و داده‌های بزرگ که اغلب شامل یادگیری ماشین و هوش مصنوعی است، متمرکز شده است. به طور کلی، مصالحه‌های آشکار بین نگرانی‌های مربوط به حریم خصوصی و توانایی شرکت‌ها برای نوآوری، ماهیت استقرار هوش مصنوعی را تعیین می‌کند.3 به عبارت دیگر، ما نقش اساسی این گروه را در سنجش تعادل بین نوآوری در این زمینه با پتانسیل پیامدهای منفی می‌دانیم. در طول سال گذشته، اعضای این گروه به مزایای بسیاری از BDA اشاره کرده‌اند. این موارد شامل بهبود ایمنی جاده با استفاده از داده‌های تله‌ماتیک،4، 5، 6، 7، 8 و همچنین چگونگی بهبود تجزیه و تحلیل که به گروه‌هایی که قبلاً بیمه کردن آنها دشوار بود، اجازه می‌دهد تا با ارائه بیمه مبتنی بر استفاده جدید بر اساس تله‌ماتیک،9، 10، 11، 12، 13 تحت پوشش بیمه قرار گیرند. همچنین مداخلاتی از اعضایی وجود داشته است که در مورد پیامدهای استقرار این فناوری جدید برای گروه‌های آسیب‌پذیر و تأثیرات احتمالی در مورد فراگیری مالی11 نگران هستند. نگرانی‌های گسترده‌تری نیز در حوزه تحقیق وجود دارد که به کاربردهای تجاری داده‌های کاربر و تنش با نگرانی‌های مربوط به حریم خصوصی،14، 15، 16، 17 پروفایل‌سازی،11،18 و ادراک کاربر19 اشاره دارد. بحث‌های گسترده‌ای نیز در مورد پتانسیل عدم شفافیت در این تکنیک‌های جدید ارزیابی ریسک و نیاز به هدف‌گذاری قابلیت توضیح‌پذیری20،21 وجود داشته است. اینها تنها نمونه کوچکی از بحث‌هایی هستند که انجام شده و به روایت‌های موجود و نوظهور در مورد اختلال، همبستگی بیمه و نگرانی‌های اجتماعی22 اشاره دارند.
موضع اولیه ما در این مرحله این است که ما می‌پذیریم که مزایای عملیاتی، ایمنی، کاربر و اجتماعی و خطرات قابل توجهی توسط معرفی BDA و هوش مصنوعی/یادگیری ماشین به صنعت بیمه ایجاد می‌شود.23،24 بنابراین، این مقاله بر صنعت بیمه تمرکز دارد که یک کاربر نهایی کلیدی از داده‌های بزرگ است و دارای مجموعه روابط اجتماعی منحصر به فرد و عمیقی است که عمل آن را زیربنا می‌کند. بر این اساس، هر گونه تحلیل اخلاقی باید در جزئیات اجتماعی-فناورانه نوع روابط ایجاد شده توسط این مجموعه جدید از شیوه‌ها و در دسترس بودن برنامه‌های کاربردی متمرکز بر داده‌ها ریشه داشته باشد. در نقاط مختلف زنجیره ارزش بیمه، می‌توان تنش‌ها را از نظر معضلات اخلاقی که بیشتر یا کمتر حاد هستند، ثبت کرد. یک راه کلی برای پیمایش آنچه EIOPA به عنوان "اخلاق دیجیتال" در خدمات بیمه مطرح می‌کند، این است که هوش مصنوعی و برنامه‌های کاربردی دیجیتال را به عنوان روابط اجتماعی-فناورانه متصور شویم. این امر در مورد بیمه سلامت و خودرو با اشاره به یک هستی‌شناسی رابطه‌ای یا ارتباط بین استفاده تجاری از داده‌ها و استفاده شهروندان از داده‌ها در حال ظهور است.25 این الزام برای درک ارتباط، در ساختار کار در گروه کارشناسی نهفته است، با زیرگروه‌های مختلفی که به حوزه‌های تجاری یا خطوط بیمه متمایز می‌پردازند. به عنوان مثال، تفاوت‌هایی در روابطی وجود دارد که در زمینه بیمه سلامت در مقایسه با خطوط بیمه مسکن وجود دارد. در حالی که هر دو در یک کاربرد تجاری متحد شده‌اند، روابط متنوعی وجود دارد که هنوز نامشخص است و نیاز به بررسی دارد. این امر امکان ثبت دقیق‌تر باروری موارد مختلفی را که ارائه می‌شوند، فراهم می‌کند. سرعت نوآوری تغییرات زیادی را در زمینه ثبت و پیش‌بینی روابط اجتماعی ایجاد می‌کند. اخلاق نیز با این چالش سازگار می‌شود، همانطور که در حرکت به سمت اخلاق رابطه‌ای و حرکت به سمت تجربی در بحث‌های مربوط به اخلاق فناوری شناسایی شده است (به فصل 1 از Vallor، S.، 2016. Technology and the virtues: A philosophical guide to a future worth wanting. Oxford University Press).26
نتایج
مورد بیمه
اهمیت بیمه در اقتصاد مدرن و حتی مدرنیته را نمی‌توان نادیده گرفت (به Ferguson، N.، 2008. The ascent of money: A financial history of the world. Penguin. و Lupton، D.، 2006. Risk and governmentality. The sociology of risk and gambling reader، pp.85–99). در آکادمی، دانشکده‌هایی با متخصصانی در بیمه نسبتاً کم هستند. با این حال، هم جامعه‌شناسان و هم مورخان استدلال قوی برای اهمیت مرکزی بیمه در هر تحلیل گسترده‌تری از جامعه ارائه کرده‌اند (Ewold، F.، 1991. Insurance and risk. The Foucault effect: Studies in governmentality، 197، 210). به عنوان یک عمل، اخلاق خاص خود را دارد و در اصل یک پلتفرم به اشتراک‌گذاری ریسک با نتیجه رفاه به عنوان هدف اصلی است. پرداختن به اخلاق دیجیتال و به طور خاص، اخلاق داده‌ها برای صنعت بیمه یک کار فزاینده مهم و ضروری است. عملکرد بازار بیمه دارای عملکردهای اقتصادی و رفاهی مهمی برای جامعه گسترده‌تر است و می‌تواند پیامدهای مثبت و منفی ایجاد کند. از نظر فراگیری اجتماعی، بیمه عمر، سلامت و غیرعمر نقش مهمی ایفا می‌کند. بنابراین، مطلوب است که با پیش‌بینی تنش‌های اجتماعی-فناورانه نوظهور در اکوسیستم بیمه متمرکز بر داده‌ها، به پیش‌بینی انعکاسی بپردازیم.
با این حال، با توجه به اهمیت مرکزی صنعت بیمه در زندگی شهروندان اتحادیه اروپا (EU)، این امر به نیاز به یک رویکرد اجتماعی-فناورانه خاص برای اخلاق دیجیتال و داده‌ها در رابطه با حرفه بیمه اشاره دارد. اقتصاد دیجیتال خطرات جدیدی را در مورد مصرف‌کننده ایجاد می‌کند و در بسیاری از موارد، تعادل بین قیمت‌گذاری سیاست‌ها، هزینه‌های عملیاتی و خسارات را تهدید می‌کند. از دیدگاه نظارتی، خطرات مربوط به انصاف، عدم تبعیض و نحوه بازیافت داده‌ها برای منافع تجاری دیگر وجود دارد.70 چالش برای تنظیم‌کننده‌ها و ناظران این است که به بخش بیمه اروپا اجازه دهند از نوآوری‌های ارائه شده توسط اقتصاد دیجیتال بهره‌مند شود در حالی که در عین حال از منافع مصرف‌کنندگان و شهروندان محافظت می‌کند (از Bernardino، G.، 2020. Challenges and opportunities for the insurance sector in Europe. In Annales des Mines-Realites industrielles (No. 1، pp. 99-102). FFE).
اصل احتیاط نیز در اینجا نقش دارد.71، 72، 73 بحث‌ها با گروه کارشناسان EIOPA در زمینه اخلاق دیجیتال منعکس‌کننده بحث‌هایی است که در طول سه دهه گذشته در آکادمی در جریان بوده است، با مواضع برخی از اعضا نزدیک به Cass Sunstein74، 75، 76، 77، 78 و دیگران Powell80 که استدلال می‌کنند که مقررات می‌تواند به نوآوری آسیب برساند،81 و دیگران موضع محتاطانه‌تری در مورد مدل‌های تجاری متمرکز بر داده‌ها اتخاذ می‌کنند.82 بسیاری از مسائل مطرح شده توسط استفاده از داده‌های بزرگ توسط بیمه‌گران ممکن است پیامدهای اجتماعی منفی طولانی‌مدت داشته باشد. به عنوان مثال، این پتانسیل وجود دارد که پذیرش مجموعه‌های داده دقیق‌تر توسط بیمه‌گران ممکن است ایده‌های به اشتراک‌گذاری ریسک را از نظر توزیع مثبت و همبستگی اجتماعی تضعیف کند و اعتقاد به انصاف که آن را زیربنا می‌کند.83 نگرانی‌های موجهی نیز در مورد ظهور رژیم‌های نظارتی وجود دارد که در آن BDA ممکن است برای حذف گروه‌های خاصی از دسترسی به ابزارهای مالی مهم ذاتی در محصولات و خدمات بیمه استفاده شود. این همچنین به مسئله عدم تبعیض، انصاف، فراگیری و دسترسی مربوط می‌شود. تأثیر بر خودمختاری انسان و موضوعات نیز نگرانی‌های مهمی است و نمی‌توان آن را به عنوان فانتزی‌های بدبینانه رد کرد. جایی که اصل احتیاط ما را در این زمینه از عدم اطمینان هدایت می‌کند، ممکن است اخلاق مراقبت و محافظت باشد که هدف آن حفظ ارزش‌های اروپایی پس از جنگ است. با توجه به دیجیتالی‌سازی و بیمه، ما در مراحل اولیه پذیرش هستیم و بنابراین این گزارش مداخله به موقعی در بحث‌ها در مورد انصاف و عدم تبعیض است. بحث‌ها در مورد ارزش اصل احتیاط در مقابل اصل نوآوری ادامه دارد، همانطور که بحث‌هایی که این دو موضع را منعکس می‌کنند، و گروه کارشناسی نیز در این زمینه متفاوت نبود.84، 85، 86
با BDA و هوش مصنوعی در بیمه، ما در یک معمای سرعت کلاسیک قرار داریم.87،88 ما این را در طیف وسیعی از فعالیت‌های اقتصادی می‌بینیم که در آن سرعت پیشرفت‌های فناوری به گونه‌ای است که پاسخ‌های نظارتی و قانونی نمی‌توانند با آن همگام شوند. این یک مشکل حکمرانی ریسک است که به طور گسترده ذکر شده است و نشان‌دهنده نیاز به پاسخ از سوی سیاست‌گذاران عمومی، صنعت و جامعه مدنی است. تا به امروز، تمرکز زیادی بر علم مواد و بیوتکنولوژی بوده است، اما مشکل سرعت اکنون در خدمات مالی نیز نهادینه شده است. در غیاب مجموعه قوانین روشن یا بدنه قانون تثبیت‌شده، چه سخت یا نرم، تأکید زیادی بر توسعه مجموعه‌ای از اصول اخلاقی برای کاهش ریسک رفتاری وجود دارد. با تبدیل شدن هوش مصنوعی به یک مسیر تکاملی استاندارد برای صنعت بیمه، قوانین برای همگام شدن با سرعت نوآوری دیجیتال تلاش می‌کنند و مقررات موجود اغلب کالیبره نشده و با ریسک‌های فعلی همسو نیستند. مقیاس و سهولت استفاده از هوش مصنوعی و انجام تجزیه و تحلیل، چالش‌های اخلاقی جدیدی را اضافه می‌کند. در این زمینه، انطباق می‌تواند در برخی موارد با بی‌تفاوتی اشتباه گرفته شود. یعنی اگر روابط اخلاقی به طور موثر روشن نشود و در نظر گرفته نشود، خطرات نوآوری‌ها و کاربردها به طور چشمگیری افزایش می‌یابد. به این ترتیب، اهمیت روشن‌سازی اخلاقی به طور فزاینده‌ای مهم است.
مسائل اخلاقی خاص مربوط به BDA و هوش مصنوعی در بیمه
بیمه در مورد فناوری ریسک است،55،57،89، 90، 91 که ذاتاً یک مشکل تجزیه و تحلیل داده‌ها و پیش‌بینی است. به همین دلیل است که BDA2 و استفاده از هوش مصنوعی از نظر استراتژیک برای صنعت بیمه برای محاسبه ریسک مربوط به قیمت‌گذاری و بیمه‌گری مهم است. هوش مصنوعی یک فناوری با هدف کلی (GPT)92 است، بنابراین علاوه بر استفاده به عنوان یک ابزار پیچیده برای پیش‌بینی،3 مربوط به ارزیابی ریسک، در سراسر سفر مشتری از اکتساب مشتری جدید تا خدمات الکترونیکی، ادعاها، تمدیدها و توسعه محصول نیز استفاده می‌شود. بنابراین، گاهی اوقات مهم است که زمینه‌های اخلاقی را در یک زمینه تجاری و اجتماعی معنادار بررسی کنیم تا جهت فعلی و آینده فناوری هوش مصنوعی را بتوان به طور دقیق و ظریف بررسی و مورد بحث قرار داد. مرور کلی از کاربردهای هوش مصنوعی در بیمه در جدول 1 نشان داده شده است. این کاربردها متعدد هستند و نشان‌دهنده اکوسیستم رو به رشد هوش مصنوعی در صنعت بیمه است. کاربردها نشان‌دهنده طیف وسیعی از عملیات جلویی و پشتی هستند، از پیش‌بینی تا رسیدگی به ادعاها.
جدول 1
مروری بر کاربردهای BDA و هوش مصنوعی در بیمه
| زنجیره ارزش بیمه | فرآیند تجاری | سیستم‌های هوش مصنوعی و داده‌های بزرگ | مسائل اخلاقی اصلی |
| --- | --- | --- | --- |
| تحقیقات بازار و طراحی محصول | تحقیقات بازار | داده‌های مشتری و نظرسنجی برای اطلاع‌رسانی به توسعه محصول جدید | حذف بازار برای بخش‌های آسیب‌پذیر و غیرسودآور |
| توسعه محصول | تست A/B طرح‌های دیجیتال و خدمات بیمه جدید | سوگیری به سمت مشتریان فعلی شرکت‌های موجود |
| قیمت‌گذاری و بیمه‌گری | ارزیابی ریسک | (الف) منابع داده سنتی؛ به عنوان مثال، اطلاعات مشتری، داده‌های مواجهه و داده‌های تلفات برای تخمین پروفایل ریسک برای گروه‌های مشتریان
(ب) اشکال جدید داده‌های بزرگ؛ به عنوان مثال، داده‌های رفتاری، اینترنت اشیا، تله‌ماتیک، داده‌های ردیاب شخصی و سیستم موقعیت‌یاب جهانی برای اطلاع‌رسانی به تجزیه و تحلیل رفتاری مبتنی بر یادگیری ماشین پیشرفته1 | داده‌های مشتری ارزش الگوریتم‌ها را افزایش می‌دهند، اما ممکن است مزایا با آنها به اشتراک گذاشته نشود
بخش‌بندی ریز ممکن است منجر به از دست دادن تجمیع بیمه و حذف گروه‌های کوچک پرخطر شود (به Cevolini، A. و Esposito، E.، 2020. From pool to profile: Social consequences of algorithmic prediction in insurance. Big Data & Society، 7(2)، p.2053951720939228. آنها نیز استدلال می‌کنند که تحولات در داده‌های بزرگ در بیمه تهدیدی برای پارادایم تجمیع است)
تضعیف پارادایم به اشتراک‌گذاری ریسک که به طور تاریخی بیمه را زیربنا می‌کند و کاهش متناظر در همبستگی اجتماعی
مسائل مربوط به حریم خصوصی و نظارت همراه با نگرانی در مورد خودمختاری شهروندان
فروش مجدد داده‌ها و کالا شدن داده‌های شخصی |
| قیمت‌گذاری | (الف) یادگیری ماشین برای توسعه مدل‌های قیمت‌گذاری مبتنی بر گروه‌های مشتریان
(ب) قیمت‌گذاری ریز/شخصی‌سازی‌شده بر اساس داده‌های رفتاری فردی | سوگیری الگوریتمی و استفاده از داده‌های غیرریسک در قیمت‌گذاری
قیمت‌گذاری بر اساس بخش‌بندی ریز به دلیل تعداد متغیرها و پیچیدگی الگوریتمی دشوار است
نگرانی‌های همبستگی اجتماعی اطلاعات نامتقارن و نگرانی‌های مربوط به توضیح‌پذیری
حذف بازار از قیمت‌گذاری بالا مربوط به ریسک بسیار بالای افراد و بخش‌های ریز |
| فروش، توزیع و بازاریابی | فروش و بازاریابی | تکنیک‌های بازاریابی دیجیتال بر اساس تجزیه و تحلیل پویا رفتار جستجوی آنلاین | پتانسیل اجبار مشتریان به خرید بیمه غیرضروری یا گران‌قیمت و حذف گروه‌های آسیب‌پذیر |
| اکتساب و حفظ مشتری | دستیار مجازی و ربات‌های چت که از پردازش زبان طبیعی (NLP) و هستی‌شناسی بیمه برای پشتیبانی از ارتباطات استفاده می‌کنند | پتانسیل اتوماسیون مشاوره نادرست یا مضر
اتوماسیون پیشنهادات به معنای تبدیل پیشنهادات به مشاوره مالی است
انتخاب سوگیرانه مشتریان جدید |
| CRM | CRM بر اساس ارتباطات پیچیده و تجزیه و تحلیل مبتنی بر مدل‌های پیشرفته رفتار مصرف‌کننده و تغییر به رقبا | بهره‌برداری از ویژگی‌های مشتری مانند بی‌تفاوتی و عدم دانش
اثرات قفل‌شدن مشتریان ممکن است تمایل آنها به جستجو و یافتن محصولات و خدمات بهتر را کاهش دهد و خطر مشاوره سوگیرانه و/یا نادرست |
| تجزیه و تحلیل رفتاری مشتریان | تجزیه و تحلیل ریسک رفتاری در بخش‌های بیمه مانند سلامت و خودرو | پیامدهای ناخواسته مانند بازی کردن سیستم توسط مشتریان ممکن است منجر به رفتار ناامن شود، به عنوان مثال، ورزش کردن در هنگام بیماری و حواس‌پرتی توسط مشاوره ایمنی بیمه در هنگام رانندگی
نظارت می‌تواند به نظارت تبدیل شود
افزایش عدم تقارن اطلاعات بین مصرف‌کنندگان و شرکت‌های بیمه |
| خدمات الکترونیکی | مدیریت سیاست بیمه | اتوماسیون فرآیند رباتیک | سوگیری ناعادلانه در پردازش مبتنی بر قوانین اسناد، ادعاها و خدمات الکترونیکی |
| خودسرویس مشتری از طریق کانال‌های متعدد | NLP، تشخیص صدا، نقشه‌های هستی‌شناسی بیمه و ربات‌های مجازی برای تسهیل خودسرویس مشتری و ارائه مشاوره | حذف یا تبعیض علیه مشتریانی که دانش و مهارت‌های فناوری ضعیفی دارند و پتانسیل مشاوره نادرست و راهنمایی که می‌تواند منجر به اصلاحات و خریدهای نامناسب سیاست شود |
| شکایات مشتری | حل خودکار بخش بزرگی از شکایات مشتری از طریق همه کانال‌های بازاریابی | خطر سوگیری الگوریتمی در حل یک شکایت به ضرر بخش‌های خاصی از مشتریان |
| کاهش ریسک و مدیریت خسارت | کاهش ریسک | سیستم‌های هشدار ایمنی مبتنی بر هوش مصنوعی مانند تشخیص برخورد و ترمز خودکار
مربیگری عملکرد رانندگی و رفتار سلامت بر اساس ارزیابی ریسک هوش مصنوعی | مصالحه بین ایمنی فردی در مقابل ایمنی افراد و گروه‌های دیگر همیشه قابل محاسبه نیست و ممکن است منجر به آسیب ناشی از نقص در سیستم‌های ایمنی شود
هدایت رفتاری می‌تواند منجر به از دست دادن آزادی‌ها و تصمیم‌گیری مستقل فردی شود و خطر مشاوره نادرست وجود دارد |
| پردازش ادعا | تشخیص تصویر هوش مصنوعی برای تخمین هزینه‌های تعمیر در بیمه اموال خانگی، اماکن تجاری و ادعاهای خودرو | پتانسیل عدم پرداخت ارزش واقعی ادعا؛ به عنوان مثال، از طریق وسوسه پرداخت سریع‌تر
سیستم‌های خودکار ممکن است برای ذینفعان غیرشفاف باشند |
| تشخیص تقلب | تشخیص تقلب هوش مصنوعی برای شناسایی ناهنجاری‌ها در ادعاهای فردی و جستجوی الگوهای تقلب در همه ادعاها | اتهام نادرست تقلب ممکن است ناشی از سوگیری الگوریتمی بر اساس ادعاهای متقلبانه قبلی باشد و بنابراین به گروه‌های خاص آسیب برساند
خطر پروفایل‌سازی بر اساس عواملی که خارج از کنترل فرد است |
عملکرد قیمت‌گذاری و بیمه‌گری نقطه شروع واضح برای بررسی کاربردهای BDA و هوش مصنوعی است زیرا جوهره بیمه است و دروازه ورود اکثر مشتریان (و مشاغل) به بازارهای بیمه است. طیف وسیعی از مسائل مربوط به حریم خصوصی فردی و خودمختاری انسان، انصاف و تأثیرات منفی بالقوه بر خود صنعت بیمه به طور واضح وجود دارد. استفاده و سوء استفاده بالقوه از داده‌ها در مرکز این نگرانی‌ها است. همانطور که در مورد یک رویکرد مناسب برای اتخاذ توسط محققان و متخصصان، مدل اخلاقی سلسله مراتبی که در شکل 1 نشان داده شده است، پیشنهاد می‌کند روشی برای تجزیه و تحلیل در سراسر زنجیره ارزش. این امر با شروع از یک محصول بیمه و حرکت به سمت سطوح پایین‌تر امکان‌پذیر است یا با یک رویکرد استقرایی که با فناوری هوش مصنوعی شروع می‌شود. با اتخاذ یک رویکرد استقرایی، فناوری هوش مصنوعی که از نظر الگوریتم‌ها و داده‌ها توصیف می‌شود، هسته سیستم خدمات مدرن بیمه است و نشان‌دهنده طراحی و هدف سیستم کلی است.
شکل 1
مدل اخلاقی سلسله مراتبی هوش مصنوعی و داده‌های بزرگ در بازارهای بیمه
فناوری هوش مصنوعی تشدید کننده نگرانی‌های اساسی داده‌ها مربوط به حریم خصوصی و نظارت است زیرا ماهیت الگوریتم‌های هوش مصنوعی به گونه‌ای است که اشتهای سیری‌ناپذیری برای داده‌های بیشتر و بیشتر دارد. در دوران "داده‌های کوچک" قبلی، هزینه جمع‌آوری، ذخیره، سازماندهی، تجزیه و تحلیل و به اشتراک‌گذاری نتایج تجزیه و تحلیل پیچیده در یک شبکه توزیع‌شده از افراد، دستگاه‌ها و سازمان‌ها به عنوان یک ترمز یا مکانیسم کنترلی طبیعی برای استفاده از داده‌ها عمل می‌کرد. اصطلاح داده‌های بزرگ تنها به دلیل بهبودهای اساسی در عملکرد محاسباتی وجود دارد که آن را از نظر اقتصادی امکان‌پذیر می‌کند. مسائل اخلاقی مربوط به تقاطع بین استفاده از BDA و عملکرد قیمت‌گذاری/بیمه‌گری فراتر از نگرانی‌های مربوط به حریم خصوصی و رژیم‌های نظارتی است. یکی از شیوه‌های بیمه‌گران مربوط به BDA، قیمت‌گذاری غیرریسک است. به عنوان مثال، بیمه‌گران ممکن است از داده‌ها برای سنجش حساسیت شما به قیمت و وفاداری شما به یک بیمه‌گر استفاده کنند زیرا این امر به عنوان بخشی از یک پروتکل قیمت‌گذاری استفاده می‌شود. توماس93 خلاصه خوبی از این عمل را ارائه می‌دهد که به عنوان یک اختلاف در چندین حوزه دوباره ظاهر شده است (به توماس، R.G.، 2012. Non-risk price discrimination in insurance: market outcomes and public policy. The Geneva Papers on Risk and Insurance-Issues and Practice، 37(1)، pp.27–46). در جمهوری ایرلند، وزیر امور خارجه در وزارت امور مالی با مسئولیت ویژه خدمات مالی، اتحادیه‌های اعتباری و بیمه قول داده است که با این عمل مقابله کند و اظهار داشته است: "شرکت‌های بیمه وظیفه دارند با مشتریان خود به طور منصفانه و صادقانه رفتار کنند" (به https://www.independent.ie/business/targeted-solutions-are-needed-to-help-reform-irelands-insurance-sector-40083374.html).
سوگیری الگوریتمی نیز تابعی از داده‌ها است زیرا کالیبراسیون یک الگوریتم هوش مصنوعی توسط مجموعه داده‌ای که برای توسعه آن استفاده می‌شود تعیین می‌شود. اگر داده‌های آموزشی دارای سوگیری در برابر ویژگی‌های محافظت‌شده یا به سادگی از نظر دیگری دارای نقص باشند، این ویژگی‌ها در طراحی سیستم BDA و هوش مصنوعی جدید گنجانده می‌شوند و منجر به تبعیض ناعادلانه می‌شوند. علاوه بر جنبه حجم داده‌های بزرگ، مفاهیم دانه و ارتباط نیز در زمینه بیمه بسیار مهم هستند.94 دانه به سطح بسیار دقیق جزئیاتی اشاره دارد که می‌توان در مورد ویژگی‌ها و رفتار شخص جمع‌آوری کرد.95
برای ارزیابی اخلاق هوش مصنوعی در بیمه، هدف یا زمینه تجاری که یک سیستم هوش مصنوعی برای آن طراحی شده است، به عنوان مثال، قیمت‌گذاری، برای پشتیبانی یا فعال‌سازی یک فرآیند تجاری و تجزیه و تحلیل بازار، تعریف می‌کند زمینه و به ما می‌گوید که احتمال و شدت آسیب چقدر است.96 یک دیدگاه جامع باید در هر گونه تحلیل اخلاقی در نظر گرفته شود که فناوری اصلی هوش مصنوعی الگوریتم‌ها، مجموعه داده‌های مورد استفاده در طراحی و تکامل مداوم برنامه و زمینه تجاری/اجتماعی که فناوری در آن اعمال می‌شود را در نظر بگیرد.
یکی از خطوط تجاری مهم که در آن همگرایی مسائل اخلاقی و دولتی مانند انصاف، تبعیض و آسیب وجود دارد، بیمه خودرو است. پتانسیل وجود تعارض بین انصاف و تبعیض توسط پرونده Test-Achat که در دیوان دادگستری اروپا در سال 2011 شنیده شد، نشان داده شده است که قیمت‌گذاری بر اساس جنسیت غیرمجاز است.
از زمان معرفی تله‌ماتیک در بیمه خودرو، این خط گسل بین انصاف و تبعیض به طور گسترده مورد بحث قرار گرفته است. از بسیاری جهات، مبنای شواهدی که تله‌ماتیک برای تنظیم حق بیمه ارائه می‌دهد، می‌تواند به افزایش انصاف کمک کند. در واقع، برای ساختن بر بحث پرونده Test-Achat، هنگامی که مسافت پیموده شده سالانه در نظر گرفته شود، متغیرهای مبتنی بر جنسیت اهمیت خود را از دست می‌دهند.97 Guillen و همکاران در مقاله خود در مورد تجزیه و تحلیل ریسک به نتایج مشابه می‌رسند. با این حال، نویسندگان همچنین استدلال می‌کنند که تنظیم حق بیمه به دلیل اثر یادگیری رانندگی در مسافت‌های طولانی.98 دانه داده‌های معرفی شده توسط تله‌ماتیک به نظر می‌رسد برخی از اشکال تبعیض را از بین ببرد. اگر یک راننده زن جوان بتواند با احتیاط رانندگی کند، این امر در حق بیمه او منعکس می‌شود و ممکن است فقط به دلیل سن مورد تبعیض قرار نگیرد.99 Barry و Charpentier همچنین استدلال می‌کنند که داده‌های رفتاری جمع‌آوری شده توسط دستگاه‌های تله‌ماتیک قابل اعتمادتر از داده‌های جمعیتی هستند.100 با این حال، تله‌ماتیک و داده‌های مرتبط با آن مسائل مربوط به انصاف، نظارت، خودمختاری و حریم خصوصی را نیز به همراه دارند. به طور خاص، این خطر وجود دارد که رانندگان مجبور شوند داده‌ها را به بیمه خودرو ارائه دهند تا به بیمه با قیمت مناسب دسترسی پیدا کنند، که خود سوالی در مورد خودمختاری مصرف‌کننده ایجاد می‌کند.101
این بحث در مورد تله‌ماتیک مسائلی را نیز مطرح می‌کند که در مورد تحولات در بازار بیمه سلامت نیز مهم هستند. به عنوان بخشی از حرکت به سمت وسایل نقلیه خودران، احتمالاً از مرحله توسعه فناوری عبور خواهیم کرد که در آن وظیفه رانندگی به اشتراک گذاشته می‌شود و وسیله نقلیه داده‌های بیومتریک را برای ارزیابی آمادگی راننده انسانی برای از سرگیری کنترل جمع‌آوری می‌کند.16،68 بنابراین، ما شاهد همگرایی در نوع داده‌های مورد استفاده در بازار بیمه خودرو و شیوه‌های مدرن بیمه سلامت خواهیم بود که از داده‌های دستگاه‌هایی مانند Fitbit استفاده می‌کنند. این امر رژیم‌های داده جدیدی را معرفی می‌کند که در آن ویژگی‌های مربوط به سلامت مانند توانایی‌های شناختی (به عنوان مثال، توانایی تمرکز) بخشی از محاسبات بیمه می‌شوند. به طور کلی، تله‌ماتیک بر رفتار متمرکز است، در حالی که داده‌های جمع‌آوری شده در سطوح 3 و 4 از اتوماسیون شامل وضعیت سلامت است. این امر به وضوح دارای بعد اخلاقی است و به عنوان مثال، ممکن است منجر به غیرقابل بیمه شدن گروه‌های خاصی از رانندگان مسن شود. ناتوانی در خرید بیمه خودرو اثرات منفی در مورد تحرک و اشتغال خواهد داشت.1 نگرانی‌های مشابه در مورد اثرات اجتماعی-اقتصادی گسترده‌تر در مورد داده‌های بیمه سلامت مشتق شده از دستگاه وجود دارد که در آن گروه‌های پرخطر ممکن است حذف شوند یا از بیمه عمر قیمت‌گذاری شوند.
نقش اخلاق داده‌ها در زمینه بیمه چیست؟
اصطلاح اخلاق داده‌ها نسبتاً جدید است و از سال‌های اولیه قرن بیست و یکم سرچشمه می‌گیرد. ریشه‌های آن در اصطلاح اخلاق اطلاعات نهفته است که مانند جانشین خود، ترکیبی از رشته‌ها از جمله فلسفه، علوم کامپیوتر و علوم اجتماعی است. این امر به رابط بین انسان و قلمرو داده‌ها و نیاز به حفظ کرامت انسانی و مدیریت تغییر روابط قدرت می‌پردازد.102 مفاهیم ضمنی در اینجا دسترسی، شفافیت، انصاف، برابری و عدالت است که بیشتر به عنوان سوگیری و تبعیض مطرح می‌شوند. اخیراً، در حوزه صنعت و دانشگاه، مفاهیمی مانند طراحی اخلاقی همسو، همسویی ارزش‌ها و مسئولیت دیجیتال شرکتی (CDR) برای کاهش خطرات ناشی از استفاده تجاری از داده‌های بزرگ ظاهر شده است. در مورد CDR،
این فرض می‌کند که اطمینان از طراحی اخلاقی و استفاده از فناوری‌های دیجیتال و داده‌های مرتبط یک چالش صرفاً فنی (به عنوان مثال، توسعه الگوریتم‌ها برای استدلال اخلاقی) نیست. در عوض، سازمان‌ها به توسعه مجموعه‌ای جامع و منسجم از هنجارها نیاز دارند که در فرهنگ سازمانی آنها تعبیه شده است تا توسعه و استقرار فناوری دیجیتال و داده‌ها را اداره کند (به Lobschat، L.، Mueller، B.، Eggers، F.، Brandimarte، L.، Diefenbach، S.، Kroschke، M.، و Wirtz، J.، 2021. Corporate digital responsibility. Journal of Business Research. 122، 875–888).
همانطور که Lobschat و همکاران پیشنهاد می‌کنند، نیاز به درونی‌سازی نیاز به تأمل اخلاقی در مورد استفاده و سوء استفاده از فناوری‌های دیجیتال وجود دارد.103 یکی از چالش‌های فوری مربوط به ایجاد ساختارهای حکومتی کافی برای دستیابی به این هدف و اینکه آیا نهادهای تخصصی برای رسیدگی به مفاهیم اخلاقی مانند انصاف و عدم تبعیض مورد نیاز است. چنین ارزش‌ها و هنجارهای مرتبط با CDR شباهت‌هایی با مسئولیت اجتماعی شرکتی (CSR) دارد. CSR شامل انتظارات اقتصادی، قانونی و اخلاقی است که جامعه از سازمان‌ها در یک نقطه زمانی خاص دارد و ما پیشنهاد می‌کنیم که دیدگاه مشابهی در مورد CDR نیز وجود دارد.
شفافیت و توضیح‌پذیری
مشکلات فوری شفافیت و توضیح‌پذیری نیز وجود دارد. اینها مشکلات جدیدی برای صنعت بیمه یا به طور کلی خدمات مالی نیستند. معضل عدم تقارن اطلاعات به خوبی مستند شده است و به مسئله فروش نادرست مرتبط نیست که در دهه گذشته بخش‌هایی از صنعت بیمه اروپا را آزار داده است.104، 105، 106 عدم تقارن داده‌های جدید فرصت‌های تجاری قابل توجهی را ایجاد می‌کند. در واقع، با توجه به بازار رقابتی جهانی، این تحول دیگر اختیاری نیست. با این حال، پیامدهای اخلاقی داده‌ها ممکن است به عنوان یک ضمیمه ناخوشایند در زمینه رقابت تجاری به نظر برسند، اما ما معتقدیم که کاربرد دقیق اخلاق داده‌ها می‌تواند مزایای اجتماعی اصلی بیمه را با حمایت از تعادل بین نوآوری آگاهانه از روابط اجتماعی احیا کند. این امر با فعال کردن شفافیت و توضیح‌پذیری به عنوان ویژگی‌های لازم برای افزایش مقیاس‌پذیری و دسترسی به محصولات بیمه حاصل می‌شود.
از نظر مفهومی، هم توضیح‌پذیری و هم شفافیت به انصاف و عدم تبعیض مرتبط هستند زیرا در بسیاری از جهات پیش‌شرط‌های لازم هستند. انصاف در اینجا به مفهوم انصاف توزیعی اشاره دارد که نه تنها در مورد اینکه آیا کسی بیمه ارائه می‌شود یا خیر، بلکه در مورد اینکه آیا تخصیص هزینه‌های حق بیمه در یک جامعه از مشتریان منصفانه است یا خیر. عدم تبعیض به این معنی است که تبعیض بر اساس عوامل ریسک مرتبط و نه بر اساس ویژگی‌های محافظت‌شده مانند جنسیت، نژاد یا مذهب است. برای نشان دادن انصاف و عدم تبعیض، الگوریتم‌های هوش مصنوعی باید شفاف و قابل توضیح باشند. شفافیت به این معنی است که محتوای اطلاعاتی و ماهیت الگوریتم قابل مشاهده است. سازمان نظارت مالی (FCA) بین شفافیت مدل و شفافیت فرآیند تمایز قائل می‌شود.107 شفافیت مدل به عنوان کد مدل و ماهیت روابط ورودی-خروجی تعریف می‌شود. شفافیت فرآیند مربوط به توسعه و استفاده از الگوریتم است. ما همچنین افشای مجموعه داده‌های مورد استفاده برای آموزش الگوریتم و اطلاعات مشتری را به شفافیت هوش مصنوعی اضافه می‌کنیم زیرا داده‌های آموزشی و اطلاعات مشتری به همان اندازه یا حتی بیشتر از خود الگوریتم مهم هستند.
توضیح‌پذیری هوش مصنوعی به مکانیسم نحوه برقراری ارتباط منطق و استدلال سیستم هوش مصنوعی به مشتری اشاره دارد.108، 109، 110، 111 علاقه فزاینده‌ای به توضیح‌پذیری در زمینه هوش مصنوعی و اقتصاد دیجیتال وجود دارد.112،113 برای محصولات بیمه که اغلب بر اساس فرآیندهای پیچیده ساخته می‌شوند، ظهور هوش مصنوعی و BDA خطرات بیشتری را در مورد نحوه درک مشتریان قیمت‌گذاری و در دسترس بودن محصولات بیمه ایجاد می‌کند. توضیح‌پذیری به عنوان یک بلوک ساختمانی کلیدی در ساخت استفاده اخلاقی از داده‌های بزرگ و هوش مصنوعی دیده می‌شود و اثرات کاهش‌دهنده در مورد قدرت و عدم تقارن اطلاعات ارائه می‌دهد. توجه داشته باشید که در مورد تمایز بین توضیح‌پذیری و تفسیرپذیری بحث وجود دارد.114 در این مقاله، توضیح‌پذیری به ارتباط از سوی مالک سیستم هوش مصنوعی به ذینفعان اشاره دارد، در حالی که تفسیرپذیری به تفسیر اجتماعی آن توضیح در زمینه خاص آن فرد/ذینفع مربوط می‌شود.
نحوه کار توضیحات یک نقطه شروع کلیدی در تفکر در مورد اخلاق هوش مصنوعی و دیجیتال به طور کلی است. برای لوئیس،115
"توضیح یک رویداد، ارائه برخی اطلاعات در مورد تاریخچه علّی آن است. در یک عمل توضیح، کسی که در اختیار برخی اطلاعات در مورد تاریخچه علّی یک رویداد است - اطلاعات توضیحی، من آن را می‌نامم - سعی می‌کند آن را به شخص دیگری منتقل کند."
بنابراین، علیت در مرکز قرار دارد. به عنوان مثال، در زمینه بیمه، توضیح به یک مصرف‌کننده فردی در مورد اینکه چرا پوشش داده نشده است، مستلزم برآورده کردن سؤال "چرا" است که شامل توضیح علت است. هنگامی که یک لایه فناوری دیجیتال به مجموعه‌های علّی اضافه می‌شود، وظایف توضیحی پیچیده‌تر می‌شوند. عناصر جعبه سیاه در هوش مصنوعی و BDA وجود دارد که ممکن است علیت را مبهم و تعیین آن را دشوار کند.
پیکربندی و ماهیت ذینفعان در اطراف صنعت بیمه یک ملاحظه مهم است. Kuo و Lupton یک فرآیند برای توضیح استفاده از یادگیری ماشین در قیمت‌گذاری بیمه پیشنهاد می‌کنند، اما این فرآیند برای تنظیم‌کننده‌ها و سایر متخصصان بیمه طراحی شده است. توانایی تولید مدل‌های هوش مصنوعی/یادگیری ماشین قابل تفسیر برای تنظیم‌کننده‌ها ضروری است. با این حال، درجه‌ای که سایر ذینفعان قادر به درک علت یک تصمیم هستند، احتمالاً به طور گسترده‌ای متفاوت است. توضیح‌پذیری و شفافیت عملکردهایی هستند که احتمالاً بین نهادهای مختلف با بیمه‌گران، ناظران و گروه‌های جامعه مدنی به اشتراک گذاشته می‌شوند.
مدل اخلاقی سلسله مراتبی هوش مصنوعی و داده‌های بزرگ در بیمه
یکی از موانع اصلی در درک سیستم‌های هوش مصنوعی بیمه، تعریف دقیق آنچه در زمینه بیمه با هوش مصنوعی و داده‌های بزرگ گفته می‌شود، است. سیستم هوش مصنوعی اغلب به عنوان یک سیستم فنی مجزا یا حتی یک جعبه سیاه در نظر گرفته می‌شود که ایجاد آن دشوار است زیرا بسیار پیچیده است. با این حال، امکان تعریف این موج جدید از فناوری از نظر مفهومی وجود دارد که آن را برای تجزیه و تحلیل و بحث در مورد اخلاق آسان‌تر می‌کند. تا حدی، این مقاله ناشی از تمایل به قرار دادن دقیق‌تر تلاش‌ها برای حکمرانی و نظارت اخلاقی هوش مصنوعی و داده‌های بزرگ است. ما در اینجا مدلی را پیشنهاد می‌کنیم که بر اساس منطق یک سیستم است که در آن محصول بیمه به عنوان مجموعه‌ای از زیرسیستم‌ها قابل تصور است که می‌توان آنها را به اجزای دقیق‌تری تقسیم کرد. این ایده سیستم‌های پیچیده، متشکل از سیستم‌های سازمانی و فنی در یک ساختار چند سطحی، در رشته مهندسی مرکزی است.117 در این مقاله، بیمه به عنوان یک سیستم پیچیده در نظر گرفته می‌شود که شامل روابط پیچیده بین سیستم‌های فنی و اجتماعی است. یک دیدگاه سیستم مشابه با دیدگاه سطوح انتزاعی فلوریدی است.62 ایده لایه‌ها و سطوح در روشن کردن زمینه‌های اخلاقی مختلف کاربردهای فناوری رایج شده است. این امر در زمینه تحلیل اجتماعی-فناورانه و اخلاقی به طور فزاینده‌ای محبوب شده است، فلوریدی62 اما به گفتمان روش‌شناختی گسترده‌تری نیز اشاره دارد.118،119
استدلال اصلی برای اتخاذ این رویکرد این است که برای درک بیمه و مسائل اخلاقی مربوط به آن، لازم است که به طور صریح تعریف بیمه محصولات و خدمات، از جمله نقش خاص فناوری‌های دیجیتال و هوش مصنوعی و استفاده از داده‌های بزرگ را تعریف کنیم. بنابراین، ناکافی است که صرفاً مسائل اخلاقی را با استفاده از مفهوم سطح بالای محصول بیمه (سطح 4) در نظر بگیریم، بلکه لازم است که زیرسیستم‌ها یا لایه‌های زیرین را بررسی کنیم تا مکانیسم‌های دقیق نحوه تعامل سیستم‌های فنی و اجتماعی برای ایجاد یک سرویس بیمه را درک کنیم.
این مدل دارای چهار سطح است: (1) فناوری هوش مصنوعی، (2) قابلیت‌های هوش مصنوعی، (3) فناوری بیمه و (4) محصولات و خدمات بیمه. مدل مفهومی می‌تواند به صورت بالا به پایین، با شروع از یک سرویس بیمه، یا به صورت استقرایی، با شروع از فناوری هوش مصنوعی اعمال شود. با اتخاذ یک رویکرد استقرایی، فناوری هوش مصنوعی که از نظر الگوریتم‌ها و داده‌ها توصیف می‌شود، هسته سیستم خدمات مدرن بیمه است و نشان‌دهنده طراحی و هدف سیستم کلی است. این سطح شامل فناوری دیجیتال، منابع داده، طراحی اولیه هوش مصنوعی، فرآیند آموزش الگوریتم و فناوری‌های دیجیتال مرتبط لازم برای مکان‌یابی و نمونه‌سازی هسته فناوری هوش مصنوعی در یک زمینه تجاری گسترده‌تر است.
در اصل، فناوری‌های هوش مصنوعی قابلیت‌هایی را ایجاد می‌کنند که به صورت ویژگی‌هایی بیان می‌شوند که اساس فناوری‌های خاص بیمه در سطح 2 و فناوری بیمه اصلی در سطح 3 را تشکیل می‌دهند. فناوری بیمه یک اصطلاح گسترده است که فرآیندهای تجاری و خدمات متمایز را که برای متخصصان بیمه و مشتریان قابل تشخیص است، در بر می‌گیرد. فناوری بیمه شامل فرآیندهای بیمه متمایز مانند مدیریت سیاست هوشمند، یا توسعه یک امتیاز ریسک، و خدمات بیمه متمایز مانند مشاوره رباتیک، پیشگیری از حوادث و خدمات الکترونیکی برای اصلاحات سیاست است. به عنوان مثال، خدمات الکترونیکی مشتریان را به شرکت بیمه متصل می‌کند و به آنها امکان می‌دهد روابط مداوم خود را با اصلاح سیاست‌ها، تمدید خدمات و ارائه ادعاها مدیریت کنند. قیمت‌گذاری یک فعالیت اصلی بیمه است و می‌تواند به عنوان یک فرآیند تجاری متمایز تعریف شود که توسط قابلیت‌های هوش مصنوعی در سطح 2 و فناوری اصلی هوش مصنوعی در سطح 1 پشتیبانی می‌شود.
محصولات و خدمات بیمه در سطح 4 بر اساس آرایشی از فناوری‌های بیمه برای ایجاد محصولات بیمه قابل تشخیص مانند خودرو، خانه و بیمه سلامت ایجاد می‌شوند. این فرآیندها و خدمات اصلی بیمه می‌توانند در تمام اشکال بیمه اعمال شوند و بلوک‌های سازنده محصولات بیمه را ایجاد کنند که بالاترین سطح در مدل هستند. محصولات و خدمات بیمه بیمه را به زبان محصول-بازاریابی تعریف می‌کنند. یعنی محصولات بیمه که پوشش سلامت، خودرو و اموال را ارائه می‌دهند و می‌توانند توسط مصرف‌کنندگان خریداری و استفاده شوند.
اهمیت مدل 2 برابری است. اول، فناوری هوش مصنوعی و داده‌های بزرگ را از طریق سطوح مداخله‌ای قابلیت‌های هوش مصنوعی و فناوری بیمه به محصولات بیمه مرتبط می‌کند. دوم، به وضوح مشخص است که مسائل اخلاقی را می‌توان با مرتبط کردن آنها با سطوح خاصی در مدل بهتر درک کرد. این امر امکان می‌دهد تا هر گونه تحلیل اخلاقی از زمینه آگاه باشد که به یکی از پیام‌های اصلی ما که تأکید بر اهمیت روابط موجود در اطراف هوش مصنوعی است، اشاره دارد (جدول 2). مرور کلی از انواع مختلف مسائل اخلاقی و نحوه ارتباط آنها با هر یک از سطوح در مدل در جدول 1 شرح داده شده است.
جدول 2
مدل اخلاقی سلسله مراتبی هوش مصنوعی، داده‌ها و بیمه
| مسئله اخلاقی معمولی مرتبط با هر سطح سلسله مراتبی | مسئله اخلاقی مربوط به سیستم پیچیده/سطوح انتزاعی |
| --- | --- |
| سوگیری الگوریتمی:
سطح 1 فناوری هوش مصنوعی | مسئله سوگیری الگوریتمی به بهترین وجه در سطح فناوری هوش مصنوعی درک می‌شود، زیرا اینجاست که الگوریتم طراحی و آموزش داده می‌شود و هدف از طریق ترکیبی از طراحی اولیه و آموزش الگوریتم ثبت می‌شود. در این سطح فناوری، شفافیت مستقیماً به طراحی الگوریتم و داده‌هایی که برای آموزش آن استفاده می‌شوند، مربوط می‌شود. این سطح برای همه فناوری‌های هوش مصنوعی رایج است و به طور طبیعی به یک سیستم بیمه اعمال می‌شود، جایی که داده‌ها را می‌توان به راحتی برای افراد غیرمتخصص توضیح داد. طراحی الگوریتم ممکن است توضیح آن برای افراد غیرمتخصص دشوار باشد، اما حداقل می‌توان ماهیت مسائل اخلاقی را به عنوان یک مشکل فنی قرار داد. آرایه‌ای از داده‌ها نیز می‌تواند به وضوح در سطح 1 تعریف شود که حتی برای افراد غیرمتخصص نیز قابل توضیح است. داده‌های پیچیده از ردیاب‌های سلامت و تله‌ماتیک نیز می‌توانند به زبان ساده توضیح داده شوند. مسائل مربوط به انطباق داده‌ها مانند GDPR نیز در این سطح قابل تجزیه و تحلیل است. |
| نظارت:
سطح 2 قابلیت‌های هوش مصنوعی | نظارت بر یک فرد به عنوان نظارت مزاحم و جمع‌آوری اطلاعات شخصی برای استنباط ویژگی‌های رفتاری تعریف می‌شود. جمع‌آوری داده‌ها برای اهداف بیمه در یک زمینه می‌تواند به طور بالقوه در زمینه‌های نامربوط سوء استفاده شود. البته، جمع‌آوری داده‌ها می‌تواند مزایای قابل توجهی داشته باشد. به عنوان مثال، برای شناسایی هشدارهای اولیه مشکلات سلامتی یا اطلاع‌رسانی به ارزیابی ریسک. با این حال، پتانسیل نظارت نیز وجود دارد که در آن نظارت و تجزیه و تحلیل مرتبط با آن تهاجمی می‌شود و فراتر از آنچه که ممکن است به عنوان دسترسی معقول به داده‌ها برای اهداف بیمه در نظر گرفته شود، می‌رود. حق حمایت از تبعیض نیز به طور تنگاتنگ با قابلیت‌های هوش مصنوعی مرتبط است. به عنوان مثال، قابلیت‌های تحلیلی ممکن است داده‌هایی را استنباط کنند که به ویژگی‌های محافظت‌شده مربوط می‌شود که نباید در قیمت‌گذاری استفاده شود. |
| حذف بیمه:
سطح 3 فناوری بیمه | حذف بیمه که ممکن است از تجزیه و تحلیل دقیق ریسک و مجموعه‌های داده بزرگ ناشی شود، یک معضل اخلاقی است زیرا، از یک طرف، تجزیه و تحلیل دقیق‌تر ریسک می‌تواند قیمت‌های پایین‌تری را برای برخی از مشتریان ارائه دهد، اما ممکن است دیگران را به طور کامل از بازار حذف کند. این یک مسئله اخلاقی است که مستقیماً به ریسک مربوط می‌شود، که یک جزء خدمات است. ماهیت بیمه به این است که باید برای همه در جامعه‌ای که به فراگیری و آرامش خاطر در مورد رویدادهایی که نمی‌توان آنها را کنترل یا مدیریت کرد، ارزش قائل است، قابل دسترسی باشد. به عنوان مثال، مسکن در معرض خطر سیل یا مشکلات سلامتی که از نظر اقتصادی بیمه کردن آنها دشوار است. از دیدگاه هوش مصنوعی، احتمال افزایش این است که مجموعه‌های داده بزرگ و قابلیت‌های هوش مصنوعی مرتبط بتوانند ریسک را با دقت بیشتری شناسایی کنند و گروه‌هایی را حذف کنند. |
| خودمختاری انسان:
سطح 4 محصولات و خدمات بیمه | خودمختاری انسان یک حق اساسی انسان است و در شدیدترین حالت، می‌توان استدلال کرد که ترکیبی از نظارت دقیق و مداخلات فعال از طرف شرکت بیمه ممکن است بر توانایی افراد برای تصمیم‌گیری خود تأثیر بگذارد. البته، این یک مسئله پیچیده است، اما به وضوح می‌توان استدلال کرد که در صورتی که سیستم‌های هوش مصنوعی به طور فزاینده‌ای قادر به تأثیرگذاری بر رفتار انسان باشند، این امر ممکن است شروع به محدود کردن خودمختاری افراد در تصمیم‌گیری کند. البته، مشتری نیز ممکن است از این امر سود ببرد، به عنوان مثال، از طریق افزایش ورزش، رانندگی ایمن‌تر و محافظت بهتر از دارایی‌ها و این مسئله به تعادل بین نیازها و حقوق مختلف بستگی دارد. مسئله خودمختاری انسان به بهترین وجه در سطح محصول-بازار در نظر گرفته می‌شود زیرا اینجاست که مشتری از خدمات بیمه استفاده می‌کند و با شرکت بیمه از طریق انواع دستگاه‌های ارتباطی تعامل دارد. به عنوان مثال، ساعت، تلفن هوشمند، اینترنت، دستگاه‌های تله‌ماتیک و حسگرهای هوشمند. |
بحث
مدل به تصویر کشیدن کاربردهای بیمه و مسائل اخلاقی مرتبط با آن را نشان می‌دهد. هر مسئله در سطح مناسب برای ایجاد بینش در مورد ماهیت مسائل اخلاقی و رویکردهای احتمالی برای حل یا حداقل کاهش آنها قرار گرفته است. البته، بسیاری از مسائل اخلاقی چند سطحی هستند، اما معمولاً یک نقطه شروع واضح وجود دارد که با سطح اصلی مسئله مطابقت دارد. به طور مشابه، حذف بیمه به بهترین وجه با تمرکز بر عملکرد قیمت‌گذاری درک می‌شود تا بررسی چگونگی تأثیر این امر بر بخش‌ها یا افراد مختلف.
مفهوم چند سطحی مهم است زیرا نشان‌دهنده پیچیدگی مسائل اخلاقی در بیمه است و در عین حال مکانیزمی را برای تجزیه و تحلیل سیستماتیک و منطقی فراهم می‌کند. همچنین یک عامل مهم برای ذینفعان مختلف است زیرا مسائل اخلاقی ممکن است از دیدگاه یک تنظیم‌کننده با دیدگاه یک مصرف‌کننده متفاوت به نظر برسد.
به عنوان مثال، یک مسئله چند سطحی در مورد شفافیت و توضیح‌پذیری است. برای یک نهاد نظارتی که به جزئیات مکانیسم یک مدل ریسک علاقه‌مند است، ارزیابی دقیق فناوری هوش مصنوعی (سطح 1) و توضیح چگونگی استفاده از خروجی‌های الگوریتم هوش مصنوعی برای تجزیه و تحلیل (سطح 2)، قیمت‌گذاری (سطح 3) و بازاریابی شخصی‌سازی‌شده (سطح 4) ضروری است. برای یک مصرف‌کننده، ممکن است کافی باشد که یک نمای کلی از منطق الگوریتم و نوع داده‌های مورد استفاده (سطح 1) ارائه شود. منطق قیمت‌گذاری (سطح 3) به عنوان مثال، بر اساس امتیاز ایمنی رانندگی، یا یک توضیح متقابل که نشان می‌دهد چگونه تغییر در ویژگی‌های مشتری و رفتار، قیمت را تغییر می‌دهد، و تجربه محصول از طریق ارتباط مداوم (سطح 4). نکته اصلی این است که ساختار چند سطحی چارچوبی را برای تجزیه و تحلیل و ارزیابی مسائل اخلاقی از دیدگاه فنی و همچنین از دیدگاه ذینفعان مختلف فراهم می‌کند.
اگرچه ما ارزش درک زمینه‌های خاص و اهمیت مجموعه روابط را تأیید می‌کنیم، اما نیاز به در نظر گرفتن عناصر بزرگتر نیز وجود دارد. انصاف رویه‌ای به این معنی است که آیا طراحی کلی، که توسط مفهوم رویه‌ها نشان داده می‌شود، به طور یکسان برای همه اعمال می‌شود. از نظر مدل، انصاف رویه‌ای توسط نحوه عملکرد فناوری هوش مصنوعی در سطح 1، نحوه اعمال قابلیت‌های هوش مصنوعی برای حل یک مسئله خاص بیمه، تجسم قابلیت‌های هوش مصنوعی در فرآیندهای اصلی بیمه و استفاده از سرویس در بازار تعریف می‌شود. یعنی انصاف رویه‌ای یک مسئله چند سطحی است زیرا توصیف و توضیح یک مجموعه رویه‌ها به درک نحوه عملکرد هر یک از سطوح در مدل به طور مستقل و همچنین نحوه تعامل آنها برای ایجاد یک نتیجه بستگی دارد.
نتیجه‌گیری
این مقاله به بحث‌های گسترده‌تر در مورد اخلاق فناوری می‌پردازد که شامل، از جمله دیگران، شیلا جاسانوف،120 لوسیانو فلوریدی،59،61،121 و شانون والور است. مقاله ما یک ویژگی خاص را ارائه می‌دهد که از سؤالات مربوط به BDA و هوش مصنوعی در مدل‌های تجاری بیمه و کار گروه EIOPA در زمینه اخلاق دیجیتال در بیمه ناشی می‌شود. هر دو به یک مبنای تجربی برای بحث کمک می‌کنند. گروه کارشناسی نه تنها به مفهوم انصاف در مورد قیمت‌گذاری و بیمه‌گری، بلکه به رژیم‌های حکومتی لازم برای محافظت از منافع ذینفعان نیز پرداخت. به طور متناقض، شاید، این مورد خاص نیاز به رفتار اخلاقی در اطراف معرفی و استفاده از BDA و هوش مصنوعی در بیمه به روش‌های فراگیر نیاز دارد که فراتر از مدارس فکری سنتی است. تمرکز بر وظایف گروه کارشناسی EIOPA در زمینه اخلاق دیجیتال، عناصر متمایز مورد نیاز برای تصمیم‌گیری اخلاقی بهتر در صنایع متمرکز بر داده‌های با ارزش بالا را برجسته می‌کند.
همانطور که در بالا ذکر شد، ما از اهمیت شفافیت و توضیح‌پذیری در مورد کاهش قدرت و عدم تقارن اطلاعات بین مصرف‌کنندگان و مؤسسات مالی آگاه هستیم. حکمرانی نیز به عنوان یک عنصر مهم در شرایط فرآیند و مسئولیت در نظر گرفته می‌شود. ممکن است نیاز به اشکال جدید نظارت وجود داشته باشد، شاید معرفی کمیته‌های اخلاق اختصاصی. با این حال، واضح است که یک رژیم حکومتی استراتژیک که ترکیبی از ابزارهای حکومتی را در بر می‌گیرد، بهترین پاسخ است. یک استراتژی می‌تواند شامل حمایت از تصمیم‌گیری آگاهانه‌تر برای ذینفعان در توسعه و ارائه محصولات و خدمات بیمه و حمایت از تصمیم‌گیری آگاهانه‌تر برای مشتریان از طریق افزایش شفافیت و توضیح‌پذیری در مورد تصمیم‌گیری ماشینی، اتوماسیون، پروفایل‌سازی و داده‌های مشتری در قیمت‌گذاری و ارائه محصولات و خدمات بیمه باشد.


خلاصه
محققان، سیاست‌گذاران و سازمان‌ها در اتحادیه اروپا، به‌ویژه در سطح کمیسیون اروپا، توجه خود را به اخلاق هوش مصنوعی (AI) (قابل اعتماد و انسان‌محور) معطوف کرده‌اند. با این حال، تأمل چندانی در مورد (1) تاریخچه اخلاق هوش مصنوعی به‌عنوان یک پدیده نهادینه‌شده و (2) مقایسه با حوادث مشابه "اخلاقی‌سازی" در سایر حوزه‌ها صورت نگرفته است تا چالش‌های مشترک (حل‌نشده) برجسته شوند.
برخلاف برخی از روایت‌های رایج که بر سرعت بالای پیشرفت‌های فناوری و خطرات فزاینده آن تأکید دارند، دیدگاه‌های مبتنی بر مطالعات علم و فناوری (STS) نشان می‌دهند که ظهور روش‌های ارزیابی نهادینه‌شده نشان‌دهنده نیاز دولت‌ها به کنترل بیشتر بر تحقیقات علمی و نزدیک‌تر کردن نهادهای اتحادیه اروپا به مردم در مورد اختلافات مربوط به فناوری‌های نوظهور است.
این مقاله بررسی می‌کند که چگونه رویکردهای مختلف در گذشته اخیر (یعنی اخلاق زیستی، ارزیابی فناوری (TA) و تحقیقات اخلاقی، قانونی و اجتماعی (ELS)، تحقیق و نوآوری مسئولانه (RRI)) اغلب "به نام اخلاق" برای رسیدگی به انتقادات قبلی و/یا مشروعیت بخشیدن به برنامه‌های خاص تحقیقات علمی و فناوری، یکی پس از دیگری آمده‌اند. تمرکز بر این است که چگونه یک تاریخچه مختصر از نهادینه‌شدن این رویکردها می‌تواند بینش‌هایی را در مورد چالش‌های فعلی اخلاق هوش مصنوعی مربوط به مسائل روش‌شناختی، بسیج تخصص و مشارکت عمومی ارائه دهد.

محتوای مشابهی که دیگران در حال مشاهده آن هستند
مقدمه
به‌ویژه در دهه گذشته، چندین محقق، سیاست‌گذار و سازمان در اتحادیه اروپا (EU) توجه خود را به اخلاق هوش مصنوعی (AI) (قابل اعتماد و انسان‌محور) معطوف کرده‌اند. تاکنون، آثار علمی در دو جهت اصلی پیش رفته‌اند. از یک طرف، برخی از محققان بر این تمرکز کرده‌اند که کدام اصول اخلاقی برای این حوزه مناسب‌تر هستند و چگونه باید در عمل عملیاتی شوند (Jobin et al., 2019; Sartor, 2020)، اغلب با نگاهی به سابقه اخلاق زیستی (Floridi et al., 2018; Morley et al., 2021). از طرف دیگر، برخی دیگر از محققان به دلایل مختلف، از جمله شستشوی اخلاقی (Wagner, 2018) تا مشکلات نمایندگی یا موازنه و نظارت (Delacroix & Wagner, 2021; Nemitz, 2018; van Dijk et al., 2021; Yeung et al., 2020) نسبت به این احضار اخلاق هوش مصنوعی بدبین بوده‌اند. در مقابل، تأمل چندانی در مورد (1) تاریخچه اخلاق هوش مصنوعی به‌عنوان یک پدیده نهادینه‌شدهFootnote 1 و (2) مقایسه با حوادث مشابه "اخلاقی‌سازی"Footnote 2 در سایر حوزه‌ها صورت نگرفته است تا چالش‌های مشترک (حل‌نشده)Footnote 3 برجسته شوند.

در محدوده این مقاله، نهادینه‌شدن به ایجاد نهادها، گروه‌های تخصصی یا کمیته‌هایی با عملکردهای اداری و مشورتی به عنوان روشی برای تصمیم‌گیری در مسائل بحث‌برانگیز شامل علم و فناوری اشاره دارد. تمرکز بر نهادینه‌شدن در اصطلاحات "دولتی" بیشتر است و به ابتکارات برخی از نهادها و گروه‌های تخصصی برجسته اتحادیه اروپا توجه دارد.Footnote 4 در این زمینه‌ها، اخلاق تأثیر فزاینده‌ای بر حکمرانی و تنظیم فناوری‌های نوظهور در سطح اتحادیه اروپا داشته است. تصمیمات، نظرات و دستورالعمل‌های نهادهای متخصص در اخلاق پیامدهایی در چشم‌انداز حکمرانی نوآوری داشته است. این امر مستلزم بررسی انتقادی، هم از نظر جنبه‌های نهادی و هم از نظر روایت‌های مربوط به تاریخچه فرآیند نهادینه‌شدن اخلاق است.

روایت غالب در مورد اخلاق هوش مصنوعی، که نه تنها توسط برخی از محققان، بلکه توسط نهادهای سیاسی مانند کمیسیون اروپا (EC) نیز پشتیبانی می‌شود، این است که پیشرفت‌های سریع فناوری دیجیتال تا حدی اجتناب‌ناپذیر و/یا ضروری برای رسیدگی به چالش‌های اجتماعی است، زیرا فرصت‌های فوق‌العاده‌ای را به ارمغان می‌آورد، اما خطرات غیرقابل پیش‌بینی جدیدی را نیز به همراه دارد. بنابراین، ترکیبی از رویکردهای پیش‌بینی و پس‌رویدادی، که اغلب، اما نه همیشه، تحت عنوان "اخلاق"Footnote 5 گروه‌بندی می‌شوند، برای تعیین مسیرهای مطلوب برای توسعه فناوری و ارزیابی تأثیرات اجتماعی آن، برای حکمرانی فناوری‌های نوظهور و کاهش خطرات و آسیب‌ها به افراد ضروری تلقی می‌شوند. بسیاری از این رویکردها در طول سال‌ها و درجات و راه‌های مختلف، نهادینه‌شده‌اند.

در حوزه اخلاق هوش مصنوعی، این روایت را می‌توان در چشم‌انداز اروپا در اسناد و ابتکارات واحد رباتیک و هوش مصنوعی کمیسیون اروپا (DG Connect) (European Commission, 2018b, 2018a) و کمیته امور حقوقی (JURI) پارلمان اروپا (García del Blanco, 2020) مشاهده کرد، اما همچنین در کار نهادهای مشورتی اخلاقی مانند گروه اروپا در اخلاق در علم و فناوری‌های جدید (EGE) (European Group on Ethics in Science and New Technologies, 2018) یا گروه‌های تخصصی ایجاد شده به‌صورت موردی برای رسیدگی به مسائل اخلاقی مربوط به حوزه دیجیتال یا هوش مصنوعی، مانند EDPS EAG (European Data Protection Supervisor Ethics Advisory Group, 2018) یا AI HLEG (High-Level Expert Group on Artificial Intelligence, 2019a) مشاهده کرد.

با این حال، این روایت به جنبه‌های خاصی از تاریخچه نهادینه‌شدن اخلاق هم در ایالات متحده و هم در اتحادیه اروپا توجهی ندارد. دیدگاه‌های مبتنی بر مطالعات علم و فناوری (STS) توضیحات بیشتری در مورد ظهور روش‌های ارزیابی نهادینه‌شده ارائه کرده‌اند. اگرچه در مورد حساب‌های تاریخی و جامعه‌شناختی اخلاق نهادینه‌شده توافق وجود ندارد، زیرا این پدیده‌ها هنوز نسبتاً جدید هستند (Eckenwiler & Cohn, 2007)، محققان STS راه‌هایی را که نهادها و سازمان‌ها در سایر حوزه‌ها، به‌ویژه در علوم زیستی (Jasanoff, 2011; Tallacchini, 2009) به اخلاق متوسل شده‌اند، توصیف کرده‌اند، با بررسی اینکه بازیگران به‌طور گفتمانی اخلاق را چگونه اجرا و ساختار می‌دهند و با تجزیه و تحلیل تنظیمات نهادی که در آن منافع و استراتژی‌های مختلف دنبال می‌شوند (van Dijk et al., 2021). نمونه‌هایی از این موارد عبارتند از نیاز دولت‌ها به کنترل بیشتر بر تحقیقات علمی (به عنوان مثال، اخلاق زیستی یا ارزیابی فناوری (TA) در ایالات متحده) یا نزدیک‌تر کردن نهادها به مردم در مورد اختلافات مربوط به فناوری‌های نوظهور (به عنوان مثال، در اتحادیه اروپا، Jecker et al., 1997).

با تکیه بر این بینش‌ها، این مقاله بررسی می‌کند که چگونه رویکردهای مختلف، یعنی اخلاق زیستی، TA، تحقیقات اخلاقی، قانونی و اجتماعی (ELS) و تحقیق و نوآوری مسئولانه (RRI)، اغلب "به نام اخلاق" برای رسیدگی به انتقادات قبلی و/یا مشروعیت بخشیدن به برنامه‌های خاص تحقیقات علمی و فناوری، یکی پس از دیگری آمده‌اند. تمرکز بر این است که چگونه یک تاریخچه مختصر از نهادینه‌شدن این رویکردها می‌تواند بینش‌هایی را در مورد چالش‌های فعلی اخلاق هوش مصنوعی مربوط به مسائل روش‌شناختی، بسیج تخصص و مشارکت عمومی ارائه دهد. این تاریخچه مختصر نه تنها تغییرات مخرب، بلکه تداوم را نیز برجسته می‌کند، یعنی اینکه چگونه رویکردهای اخلاقی مختلف و اخلاق هوش مصنوعیFootnote 6 در عمل هنوز هم با یکدیگر همزیستی دارند و از یکدیگر الهام می‌گیرند.

ساختارFootnote 7 مقاله به شرح زیر است. در بخش 2، مروری بر اخلاق زیستی سنتی در ایالات متحده ارائه می‌شود،Footnote 8 از آغاز آن در دهه 1960. زمینه سیاسی و روش‌شناختی پیرامون تولد آن ترسیم شده و با وضعیت اروپا در اوایل دهه 1990 مقایسه می‌شود. بخش 3 تاریخچه TA را خلاصه می‌کند و به ظهور و سقوط دفتر ارزیابی فناوری (OTA) در ایالات متحده و ابتکارات متعددی که از آن در اروپا از دهه 1980 الهام گرفته‌اند، می‌پردازد. بخش 4 گسترش برنامه‌های ELS در ایالات متحده و اتحادیه اروپا را ترسیم می‌کند. هر بخش با زیربخشی (2.3، 3.3 و 4.3) به پایان می‌رسد که در آن اشکال "قدیمی‌تر" اخلاق نهادینه‌شده با اخلاق هوش مصنوعی فعلی مقایسه می‌شوند. بخش 5 نتیجه‌گیری می‌کند و توصیه‌هایی ارائه می‌دهد.

اخلاق مشترک و اخلاق زیستی "اصول‌گرا"
ریشه‌ها در ایالات متحده: رسوایی‌های عمومی و تولد اخلاق زیستی
اصطلاح "اخلاق زیستی" در ایالات متحده توسط بیوشیمیست ون رنسلائر پاتر (1911–2001) به‌عنوان یک تأمل اخلاقی در مورد زندگی انسان، حیوان و طبیعی ناشی از پیشرفت‌های علمی و فناوری (Potter, 1970) احیا شد. در همان سال‌ها، آندره هلگرز، پزشک و استاد الهیات (1926–1979)، و بعدها مدل جورج‌تاون از اخلاق زیستی،Footnote 10 اخلاق زیستی را به معنای محدودتری، بیشتر مرتبط با "اخلاق پزشکی"Footnote 11 تصور می‌کرد.

اخلاق زیستی به این معنای محدود، زبان جدیدی را ارائه داد که می‌توانست به مشکلاتی که ناشی از مجموعه‌ای از رسوایی‌های تحقیقات پزشکی در دهه 1960 بود، رسیدگی کند، زمانی که این سؤال مطرح شد که آیا دانشمندان باید اختیار یا قدرت تصمیم‌گیری در مورد اخلاق آزمایش‌های خود داشته باشند یا خیر. پس از آنکه رسوایی‌هایی در مطبوعات ظاهر شدFootnote 12 و بحث‌هایی در سنا صورت گرفت، دولت ایالات متحده قانون ملی تحقیقات را تصویب کرد که در سال 1974 "کمیسیون ملی حفاظت از موضوعات انسانی تحقیقات زیستی و رفتاری" (که تا سال 1978 ادامه داشت؛ از این پس "کمیسیون ملی") را تأسیس کرد.Footnote 13

کمیسیون ملی گزارش بلومونت و گزارش هیئت بررسی نهادی (IRB) را منتشر کرد. گزارش IRB ایجاد IRBها، کمیته‌های اخلاقی مستقل برای بررسی همتایان تحقیقاتی با بودجه عمومیFootnote 14 را تأیید کرد که بعداً در سال 1991 در سیاست فدرال برای حفاظت از موضوعات انسانی، که به عنوان "قانون مشترک" نیز شناخته می‌شود، به صورت قانونی تأسیس شد.Footnote 15 گزارش بلومونت، که در سال 1979 منتشر شد، سه اصل اساسی برای تحقیقات انسانی را شناسایی کرد که بعداً مبنای فلسفی/علمی پیدا کردند، یعنی احترام به افراد (مرتبط با رضایت آگاهانه)، سودمندی (مرتبط با تجزیه و تحلیل خطر-منفعت) و عدالت.Footnote 16 این اصول برای دانشمندان جدید نبودند، بلکه "توجیه پس‌رویدادی فلسفی برای شیوه‌هایی بود که دانشمندان ظاهراً سال‌ها به آن پایبند بوده‌اند" (Faden & Beauchamp, 1986, p. 216).

تفکر فلسفی، به عنوان شکلی از تفکر غیرمذهبی (در مقابل الهیات)، در نهایت بر کمیسیون ملی تأثیر گذاشت و یک فلسفه خاص مبنایی برای حرفه جدید اخلاق زیستی فراهم کرد. فیلسوفان تام بوشامپ و جیمز چیلدرس یک کتاب درسی (Beauchamp & Childress, 2019) را به‌طور مشترک نوشتند که اصول گزارش بلومونت را در یک نظریه فلسفی منسجم، که بعداً به عنوان "اصول‌گرایی" نیز شناخته شد، رسمیت بخشید.

این روش، که به عنوان اصل اخلاق مشترک نیز شناخته می‌شود، به نقطه مرجع برای متخصصان اخلاق زیستی تبدیل شده است، نه لزوماً به دلیل برتری علمی یا انسجام درونی، بلکه به دلیل جذابیت آن برای مقامات دولتی برای نشان دادن ارزش‌های مردم. این امر با قانون آمریکا (Evans, 2012, p. 48) سازگار بود و ساختار اساسی جذابی را برای ساده‌سازی تصمیم‌گیری در مقابل سیستم‌های نامنظم یا به‌نوعی خودسرانه مورد استفاده قبلی فراهم می‌کرد و با مقامات بوروکراتیک در مؤسسات مراقبت‌های بهداشتی مطابقت داشت. این امر فرصتی را برای افزایش اعتماد، مقابله با کاهش اعتماد به پزشکان، نیز به دلیل بحث‌ها و رسوایی‌های مربوط به آزمایش‌های انسانی و پوشش آن توسط مطبوعات (Rothman, 1991, p. 61) فراهم کرد. در نهایت، از نظر علمی، این روش یک نقطه میانی بین دو نظریه اخلاقی رقیب، یعنی وظیفه‌گرایی و پیامدگرایی بود و با ملاحظات سودمندانه (یعنی متعادل کردن خطرات و منافع) با یک جامعه کثرت‌گرا و چارچوب مبتنی بر بازار برای مسائل نظارتی در مورد بیوتکنولوژی مطابقت داشت (Jasanoff, 2005, p. 177).

ریشه‌های اخلاق زیستی در اتحادیه اروپا (1991–1994)
اخلاق زیستی در ایالات متحده بیشتر پاسخی به اختلافات مربوط به اقتدار دانشمندان بود و بر مسئولیت فردی آنها به دلیل رسوایی‌های تحقیقاتی بزرگ که توجه عمومی را به خود جلب کرد، متمرکز بود. در مقابل، تاریخچه آن در اتحادیه اروپا بیشتر به حل مشکل کسری دموکراتیک و ایجاد هویت اروپایی مرتبط بود (Jasanoff, 2005)، در زمانی که گذار از یکپارچگی اقتصادی به یکپارچگی سیاسی جامعه اروپا با معاهده ماستریخت در سال 1993 (Tallacchini, 2015, p. 164) در جریان بود. به‌ویژه، چرخش به سمت اخلاق در دهه 1990 توسط کمیسیون اروپا در زمانی رخ داد که درگیری بین چشم‌انداز رشد اقتصادی و توسعه رقابتی کمیسیون اروپا و مقاومت یا مخالفت شهروندان و کشورهای عضو اتحادیه اروپا وجود داشت (Busby et al., 2008, p. 804).Footnote 17 در این زمینه تاریخی، اخلاق به کاهش اصطکاک بین کمیسیون اروپا، شهروندان اتحادیه اروپا و کشورهای عضو کمک کرد، به دو روش.

اول، برای نزدیک‌تر کردن نهادهای اتحادیه اروپا به مردم،Footnote 18 اخلاق راهی برای خروج از بن‌بست، به عنوان مثال، بین دستور کار روشن تحقیق و توسعه (R&D) برای صنعتی‌سازی بیشتر کشاورزی و خطراتی که شهروندان برای محیط زیست درک می‌کردند، ارائه داد، در حالی که زبان رسمی سیاست‌گذاری ارزش‌گذاری‌ها در مورد چنین خطراتی را کم‌رنگ می‌کرد و آنها را به عنوان "علم عینی" ارائه می‌داد (Levidow & Carr, 1997). این مشکلات در یک ارتباطیه کمیسیون اروپا در سال 1991 (European Commission, 1991) به رسمیت شناخته شد، جایی که اخلاق با نیاز به جلوگیری از عدم قطعیت و سردرگمی در بحث عمومی مرتبط بود. در این ارتباطیه، کمیسیون اروپا نقش اخلاق را به عنوان (1) باز کردن بحث با "طرف‌های ذینفع" و (2) فعال‌سازی متخصصان برای شرکت در فرآیند قانون‌گذاری ترسیم کرد (European Commission, 1991, p. 16). چند ماه بعد، در سال 1991، گروه مشاوران در مورد پیامدهای اخلاقی بیوتکنولوژی (GAEIB) متشکل از شش عضو از جمله دانشمندان، وکلا، فیلسوفان و الهیدانان برای ارائه مشاوره به کمیسیون اروپا و شناسایی مسائل اخلاقی ناشی از بیوتکنولوژی و همچنین اطلاع‌رسانی به مردم تأسیس شد.Footnote 19

دوم، اخلاق به قانونگذار اتحادیه اروپا اجازه داد تا به مسائل مرتبط با ارزش‌ها در علوم زیستی رسیدگی کند، با وجود اینکه این مسائل معمولاً در سطح ملی تنظیم می‌شدند و از درگیری‌ها و مذاکره بین مواضع مختلف کشورهای عضو اتحادیه اروپا جلوگیری می‌کرد.Footnote 20 نقش GAEIB نیز ادغام سیاسی بود و تضادها در مورد دیدگاه‌های اخلاقی در سطح اتحادیه اروپا و کشورهای عضو و عدم هماهنگی در چارچوب‌های قانونی مربوطه را با هم ترکیب می‌کرد (Tallacchini, 2009, p. 293). به عنوان مثال، یکی از تضادهای اصلی در علوم زیستی در دهه 1990، مخالفت با برخی از اشکال تحقیقات مهندسی ژنتیک، به عنوان مثال در آلمان، در مقابل نگرش‌های پذیرنده‌تر و آزمایشی‌تر، مانند در انگلستان بود (Jasanoff, 2005).

انتقادات پارلمان اروپاFootnote 21 به جایگزینی GAEIB با EGE در سال 1997 کمک کرد که تا به امروزFootnote 22 وظیفه پوشش دادن تمام حوزه‌های کاربرد علم و فناوری را بر عهده دارد، نه فقط بیوتکنولوژی. فهرست نظرات GAEIB و EGE نمونه خوبی از چگونگی "خنثی‌سازی"Footnote 23 درگیری‌های اجتماعی و سیاسی ناشی از سیاست‌های کمیسیون اروپا در علوم زیستی است. EGE به یک "نقطه عبور اجباری" (Callon, 1986) برای قانونگذار اتحادیه اروپا تبدیل شد، زیرا هر زمان که دستورالعمل‌ها با ارزش‌ها مرتبط بودند، نظرات آنها باید به‌صراحت در نظر گرفته می‌شد (Tallacchini, 2015, p. 165).

اخلاق زیستی و محدودیت‌های اخلاق مبتنی بر اصول
سیستم اخلاق زیستی سنتی در دهه 1970 و 1980 در ایالات متحده موفقیت‌آمیز بود، اما از اواخر دهه 1980، ضعف‌های سیاسی عمده‌ای را نشان داد که در دهه 1990 در اتحادیه اروپا منعکس شد. با وجود نفوذ روزافزون آن از دهه 1950 تا به امروز، اخلاق زیستی به اصطلاح "در بحران" (Evans, 2012, p. 75; Solomon 2014) اعلام شد، به دلیل افزایش اختلافات سیاسی در مورد مشروعیت و اقتدار این حوزه و جهت‌گیری‌های روش‌شناختی آن، تا جایی که حتی وجود آن مورد سؤال قرار گرفت (Turner, 2009).

در میان این انتقادات، محققان به یک مشکل "کنترل کیفیت" (Benatar, 2006) اشاره کرده‌اند. در یک معنای محدود، اخلاق زیستی می‌تواند به عنوان شاخه‌ای از تحقیق فلسفی در نظر گرفته شود که باید استانداردهای کیفیت فلسفه را برآورده کند. با این حال، اخلاق زیستی اغلب به معنای گسترده‌تری تفسیر می‌شود، با شیوه‌های متعددی که در زیر چتر آن قرار دارند، هر کدام با اصطلاحات و روش‌های خود. در نتیجه، بسیاری از افراد می‌توانند به نام اخلاق زیستی صحبت کنند، اما نیازی به پایبندی به هیچ گونه محدودیت یا فرآیند بازبینی همتایان ندارند، و در نتیجه فضای کمی برای بررسی درستی یک استدلال، اصل یا استدلال اخلاقی باقی می‌ماند. یک موازی در اخلاق هوش مصنوعی می‌تواند در سردرگمی بین حقوق اساسی، از دیدگاه قانونی، و اصول اخلاقی یافت شود. در دستورالعمل‌های AI HLEG، در حالی که اصول بر اساس حقوق اساسی و عملیاتی‌سازی آنها لنگر انداخته‌اند (High-Level Expert Group on Artificial Intelligence, 2019a, p. 10)، کاهش این حقوق به اصول اساسی مانند "پیشگیری از آسیب" آنها را از معنای قانونی و هنجاری خود خالی می‌کند و منجر به "آب‌دهی" (Delacroix & Wagner, 2021, p. 4) می‌شود.

به‌طور خاص، به دلیل عمر کوتاه خود، در حوزه اخلاق هوش مصنوعی کمبود روش‌های اثبات‌شده برای ترجمه اصول به عمل وجود دارد (Mittelstadt, 2019, p. 503). در حالی که اخلاق زیستی در طول دهه‌ها به روش‌های قوی‌تری که پزشکی برای ترجمه اصول سطح بالا به الزامات عملی ایجاد کرده است، اعتماد کرده است (به عنوان مثال، کدهای رفتاری حرفه‌ای، کمیته‌های بررسی اخلاقی یا طرح‌های صدور مجوز)، هنوز نمی‌توان چنین چیزی را در مورد هوش مصنوعی گفت. توافق کلی در مورد اصول سطح بالا در این حوزه وجود دارد (Jobin et al., 2019)، اما سلسله مراتب پذیرفته‌شده‌ای از اصول در صورت تعارض هنجاری و همچنین مکانیسم‌های اجرای و پاسخگویی کمی وجود دارد (Delacroix & Wagner, 2021, p. 7). با این حال، تلاش‌های متعددی برای ترجمه اصول به عمل انجام شده است (European Commission, 2020; Morley et al., 2021)، بنابراین می‌توان استدلال کرد که این فقط یک مسئله زمان است تا اصول‌گرایی همان استحکام را در هوش مصنوعی مانند حوزه زیست‌پزشکی به دست آورد.

با این حال، مشکلات دیگری با رویکرد اصول‌گرایی وجود دارد. اصول‌گرایی، به عنوان ابراز تفکر تحلیلی (Callahan, 1982, p. 4)، مدت زیادی است که به عنوان محدود و ساده‌سازی‌کننده در مقایسه با رویکردهای غنی‌تر دیگر (Callahan, 1982) در نظر گرفته شده است. از آنجایی که اصول‌گرایی بسیار غالب شده است، گروه‌هایی از محققان که به بحث در مورد اهداف بیشتر از یک سیستم دانش انتزاعی یا "مهندسی فلسفه" که اهداف از پیش تعریف شده‌اند، علاقه‌مند بودند، از بحث حذف شدند (Evans, 2012, p. 65). تمام مواردی که مربوط به متافیزیک، دیدگاه جهان یا تأثیرات فناوری‌ها بر جامعه در مقیاس بزرگ بود، دیگر به عنوان خارج از محدوده "اصلی" اخلاق زیستی در نظر گرفته نمی‌شد (Zwart et al., 2014, p. 6). با وجود این انتقادات، شگفت‌انگیز است که اخلاق هوش مصنوعی هنوز به شدت به رویکرد مبتنی بر اصول اخلاق زیستی متکی است. به عنوان یک قیاس با اخلاق زیستی، بحث اخلاقی در مورد هوش مصنوعی همچنان عمدتاً به طراحی و پیاده‌سازی محدود شده است، نه اینکه آیا سیستم‌های هوش مصنوعی باید ساخته شوند یا خیر (Greene et al., 2019, p. 2127). منشورهای اخلاقی به عنوان الزامات بیان می‌شوند و نه به عنوان بحث در مورد امکان انجام نکردن چیزی. این امر در کار AI HLEG مشهود بود، جایی که بخشی که در پیش‌نویس عمومی دستورالعمل‌های اخلاقی در مورد "خطوط قرمز" که نباید توسط توسعه‌دهندگان هوش مصنوعی ایجاد شوند، از نسخه نهایی سند حذف شد (Metzinger, 2019). گزارش شده است که بسیاری از افراد در این گروه با این ایده که به راهنمایی بیشتری در مورد تمایز بین آنچه مردم می‌توانند در مورد هوش مصنوعی انجام دهند و آنچه نباید انجام دهند، نیاز است، راحت نبودند (High-Level Expert Group on Artificial Intelligence, 2018, p. 11).

ارزیابی فناوری و حکمرانی پیش‌بینی‌کننده (1972–1995)
ریشه‌ها: OTA در ایالات متحده
رویکرد اصلی دیگر برای درک و ارزیابی تأثیر فناوری‌های نوظهور، ارزیابی فناوری (Tallacchini, 2009, pp. 284–287) در ایالات متحده به موازات اخلاق زیستی نهادینه‌شده توسعه یافت. حداقل در ابتدا، روایت‌های مربوط به اخلاق به صراحت در تأسیس TA به عنوان یک رویکرد حاکمیتی غالب نقش نداشتند، اما توسعه نهادینه‌شده TA و اخلاق (برخی از آنها به‌صراحت "اخلاق" را در بر می‌گیرند، یعنی اخلاق زیستی و ELSA/I، و برخی دیگر نه، یعنی TA و RRI) به هم مرتبط هستند. در ابتدا، TA مبتنی بر متخصص بود و ورودی خنثی و واقعی را ارائه می‌داد، اما بعداً، به دلیل انتقادات، به مشارکت ذینفعان بیشتری گسترش یافت.Footnote 26 علاوه بر این، از رویکردهای سنتی قانون‌گذاری برای حکمرانی علم و فناوری پشتیبانی می‌کرد (Paula, 2008, p. 1) و نوعی تجزیه و تحلیل هزینه-منفعت برای کاهش هزینه‌های توسعه فناوری و به حداکثر رساندن مزایای آن، به روشی رسمی و شفاف.

دفتر ارزیابی فناوری (OTA) در ایالات متحده توسط کنگره ایالات متحده در سال 1972 تأسیس شد، اما تاریخچه آن ریشه‌های عمیق‌تری در دهه‌های 1960 و 1970 در مورد (الف) نگرانی‌ها در مورد روابط بین فناوری و محیط زیست و (ب) تنش‌ها بین شاخه‌های اجرایی و مقننه دولت فدرال ایالات متحده (Bimber & Guston, 1997; Grunwald, 2009, p. 1104; Kunkle 1995, p. 176) دارد. همانطور که در مورد (ب) گفته شد، با پیشرفت‌های فناوری، به عنوان مثال در هوانوردی، اعضای کنگره احساس کردند که برای قانون‌گذاری و انتخاب سیاست‌های تحقیق و توسعه در مورد موضوعاتی که از نظر فنی پیچیده هستند، به مشاوره فنی بیشتر و بهتری نیاز دارند، در مقابل مشاوره علمی و فنی جامع‌تری که رئیس‌جمهور ایالات متحده داشت (Kunkle, 1995, p. 177). در نتیجه، ایده ایجاد یک مکانیسم مشورتی جداگانه برای کنگره، مستقل از شاخه اجرایی، مطرح شد.

با توجه به سوءظن‌ها و خصومت اولیه در مورد این چشم‌انداز TA، به عنوان مثال، اینکه آنچه واقعاً منظور آن تنظیم فناوری است ("تنظیم پنهان" (Kunkle, 1995, p. 180)) یا اینکه به اقتدار کنگره در مورد تصمیم‌گیری سیاست‌گذاری تجاوز می‌کند، امیلیو داداریو (1918–2010) و جان دیویس (1916–1992) جانشین او، بر نقش مشاوره‌ای و تکمیلی دفتر TA برای کنگره تأکید کردند و ادعا کردند که هدف آن بازگرداندن تعادل اطلاعات بین شاخه‌های اجرایی و مقننه در نور مشاوره ناکافی است.

در سال‌های اولیه خود، به جای یک کانال فعال برای مشارکت عمومی برای یک سیاست منسجم فناوری، OTA بیشتر به عنوان ابزاری برای ارائه مشاوره فنی موردی به اعضای کنگره عمل می‌کرد. هدف آن بیشتر برقراری برابری اطلاعات بین شاخه‌های اجرایی و مقننه بود تا ارزیابی تأثیرات فناوری. کارشناسان خارج از سازمان فقط پس از آن مشورت می‌شدند که موضوعاتی که قبلاً توسط هیئت ارزیابی فناوری (TAB)، نهادی 12 عضوی که بر OTA نظارت می‌کرد (Kunkle, 1995, p. 188)، تعیین شده بودند. در این مرحله اولیه، TA بیشتر یک عملکرد "هشدار اولیه" داشت و اطلاعاتی را در مورد اثرات ثانویه احتمالی (یعنی اجتماعی، فرهنگی، سیاسی) فناوری‌ها به سیاست‌گذاران ارائه می‌کرد. با این حال، به زودی مشخص شد که تأثیرات فناوری‌ها را فقط می‌توان تا حدی پیش‌بینی کرد و ارائه اطلاعات خنثی به سیاست‌گذاران امکان‌پذیر نیست. بنابراین، OTA از یک عملکرد هشدار اولیه به توسعه جایگزین‌های سیاستی تغییر کرد. OTA تا سال 1995 به دلیل این رویکرد جدید، شهرت منبعی قابل اعتماد، آموزنده و "بی‌طرفانه" برای کنگره به دست آورد و صدها گزارش در مورد طیف گسترده‌ای از موضوعات تولید کرد.Footnote 27

همانطور که در مورد اخلاق زیستی، بررسی پویایی‌های ایجاد TA در ایالات متحده برای درک بهتر نحوه توسعه آن به طور جداگانه در اروپا و در نهادهای کشورهای عضو اتحادیه اروپا مفید است.

TA در اتحادیه اروپا
OTA نمونه الهام‌بخشی برای بسیاری از کشورهای اروپایی بود که آژانس‌های خود را در اواسط دهه 1980 تأسیس کردند (Grunwald, 2019, p. 704; Van Eijndhoven 1997, p. 269).Footnote 28 در میان اولین آنها دفتر ارزیابی فناوری بوندستاگ آلمان (تأسیس شده در سال 1989)، دفتر هلند برای ارزیابی فناوری (تأسیس شده در سال 1986؛ بعداً به مؤسسه راتناو تغییر نام داد)، دفتر پارلمانی ارزیابی انتخاب‌های علمی فرانسه (تأسیس شده در سال 1983)، دفتر پارلمانی علم و فناوری بریتانیا (تأسیس شده در سال 1989) و هیئت دانمارکی فناوری (تأسیس شده در سال 1986)Footnote 29 بودند. با هم، نهادهای TA اروپا در سال 1990 شبکه ارزیابی فناوری پارلمانی اروپا (EPTA) را تأسیس کردند که بعداً کشورهای بین‌المللی دیگری نیز به آن پیوستند.

OTA همچنین در سطح فرا ملی تأثیرگذار بود و بر ابتکارات اتحادیه اروپا تأثیر گذاشت. کمیسیون اروپا در سال 1978 برنامه پیش‌بینی و ارزیابی برای علم و فناوری (FAST, 1978–1983) را تصویب کرد تا به توسعه یک سیاست منسجم بلندمدت در مورد علم و فناوری کمک کند. پارلمان اروپا بعداً STOA را ایجاد کرد که در ابتدا در سال 1987 به عنوان یک پروژه آزمایشی راه‌اندازی شد تا مشاوره عینی، جامع و مستقلی در مورد مسائل علم و فناوری به پارلمان ارائه دهد.Footnote 30 یکی از دلایل ایجاد STOA، مانند OTA، این بود که تعادل بین پارلمان و کمیسیون اروپا در مورد مسائل مربوط به تأثیرات فناوری برقرار شود (Van Eijndhoven, 1997, p. 273).

در موارد خاص کشورهای عضو و نهادهای اتحادیه اروپا، TA به طور متفاوتی از مفهوم اولیه OTA تکامل یافت، هم به دلیل تفاوت‌های سیاسی (به عنوان مثال، فرهنگ‌های سیاسی متفاوت و جدایی سخت‌تر بین شاخه‌های مقننه و اجرایی در ایالات متحده در مقایسه با بسیاری از سیستم‌های پارلمانی اروپا، جایی که تقسیم قدرت بیشتر بین دولت و مخالفان است (Van Eijndhoven, 1997, p. 277)) و هم به دلیل دلایل اتفاقی (به عنوان مثال، بودجه و ظرفیت). دو ویژگی جدید TA در اروپا از ایده گسترش فرآیند تصمیم‌گیری ناشی شد. اول، یک شاخه از TA به نام "عمومی" یا "مشارکتی" TA (Van Eijndhoven, 1997, p. 278) بر توانمندسازی دموکراسی و ترویج رویکردی فراگیرتر و متنوع‌تر تمرکز داشت (Van Eijndhoven, 1997, p. 278; Vig 1992, p. 4). دوم، یک شاخه، که در هلند توسعه یافت، به نام "سازنده" TA یا CTA (Schot & Rip, 1997) بر فرصت‌های فناوری جدید تمرکز داشت (Vig, 1992, p. 5) و بر این باور بود که فناوری‌ها در تعامل نزدیک با سیستم‌های اجتماعی تکامل می‌یابند تا فناوری‌هایی را که می‌توانند حداکثر منافع اجتماعی، اقتصادی و زیست‌محیطی را به ارمغان آورند، انتخاب کنند.

TA و سیاسی‌سازی تخصص
علیرغم برخی شباهت‌ها، چالش‌های پیش روی TA نهادینه‌شده در ایالات متحده با چالش‌های اخلاق زیستی متفاوت بود. در اوایل دهه 1990، OTA با یک دوراهی مواجه شد: از یک طرف، اگر ادعای استقلال بیشتری در مورد سیاست فناوری می‌کرد، توسط جمهوری‌خواهان که در اواسط دهه 1990 کنترل هر دو مجلس کنگره را در دست داشتند، سرکوب می‌شد (Kunkle, 1995, p. 193); از طرف دیگر، اگر نقش آن صرفاً ارائه مشاوره موردی بود، بی‌فایده تلقی می‌شد. OTA در نهایت در سال 1995 منحل شد تا هزینه‌ها کاهش یابد و از عملکردهای تکراری جلوگیری شود و عملکردهای آن به کتابخانه کنگره منتقل شد.Footnote 34

به موازات افول OTA، با این حال، به دلایل مختلف و پویایی‌های متفاوت، TA در اروپا به تدریج به ابزاری حاشیه‌ای تبدیل شد و در مقایسه با استفاده از "اخلاق" به عنوان ابزاری برای ایجاد هویت اروپایی یا ترویج ادغام بازار، اهمیت کمتری پیدا کرد.Footnote 35 TA در اتحادیه اروپا به یک "ابزار باقیمانده" برای پارلمان‌ها با موقعیت حاشیه‌ای در کاوش گزینه‌های سیاستی تبدیل شد، با تأثیر کم و استفاده ناکافی از نتایج (Smits et al., 1995, p. 292). دو مشکل عمده به این نتیجه کمک کرد. یک مشکل سیاسی این بود که ابتکارات اتحادیه اروپا در زمینه TA فاقد مشروعیت سیاسی بود، بینش کمی در مورد تصمیم‌گیری در مورد فناوری داشت، فرصت‌های کمی برای کسب تجربه در سیاست‌گذاری و زیرساخت تحقیقاتی پایداری صرف نظر از کیفیت گزارش‌ها داشت (Smits et al., 1995, p. 292). یک مشکل کیفی این بود که مقیاس ابتکارات اتحادیه اروپا خیلی کوچک بود (با بودجه کم) و متنوع بود و منجر به کیفیت ناکافی و در نتیجه عدم جدی‌گرفتن آن در سطح سیاست‌گذاری می‌شد.

به عبارت دیگر، سیاسی‌سازی TA یک مشکل بود. در ایالات متحده، OTA به دلیل نزدیکی بیش از حد به دموکرات‌ها مورد انتقاد قرار گرفت; در اتحادیه اروپا، پویایی‌های سیاسی TA را به ابزاری حاشیه‌ای در دست پارلمان‌ها تبدیل کرد. گروه‌های مشورتی در مورد اخلاق، گاهی اوقات تحت عنوان "گروه‌های تخصصی"Footnote 36 در کمیسیون اروپا، نیز در معرض سیاسی‌سازی قرار دارند. سیاسی‌سازی مشاوره اخلاقی زمانی رخ می‌دهد که هنجارهایی که برای مشروعیت یک نهاد اخلاقی دفاع می‌شوند (به عنوان مثال، تعادل، استقلال یا شفافیت) توسط سوگیری‌های حزبی تضعیف می‌شوند (Briggle, 2009, p. 314)، اگرچه اغلب به عنوان بی‌طرف و عینی ارائه می‌شوند.

بسته به ترکیب تعادلی یک گروه اخلاقی، بحث‌های داخلی می‌توانستند به نتایج تقریباً متضادی منجر شوند، بسته به اینکه چه کسانی بخشی از این گروه‌ها بودند (Evans, 2012, p. 95). در اتحادیه اروپا، توجه شده است که چگونه اخلاق برای پیشبرد چشم‌اندازهای اقتصادی و سیاسی کمیسیون اروپا در مورد فناوری‌های نوظهور مورد استفاده قرار گرفته است (Levidow & Carr, 1997, p. 30). در این سیستم متخصصان، تصمیمات اخلاقی به عنوان مشروعیت‌بخش بر اساس "اخلاق مشترک" ادعا می‌شوند. در مورد اتحادیه اروپا، این "اخلاق مشترک" از ارزش‌های مندرج در منشور حقوق اساسی اتحادیه اروپا و معاهدات اتحادیه اروپا تشکیل شده است که نشان‌دهنده شهروندان اروپایی است. با این حال، در واقع، مشروعیت آن تکنوکراتیک است، زیرا متخصصان این گروه‌ها به صورت دموکراتیک انتخاب نمی‌شوند، بلکه بر اساس دانش تخصصی خود انتخاب می‌شوند (Evans, 2012, p. 129).Footnote 37 در این زمینه، اخلاق به یک تمرین ارائه "راه‌حل‌های" "فنی" و "بی‌طرفانه" برای حقایق ثابت‌شده تبدیل می‌شود، در حالی که به مسائلی که در اصل شامل ارزش‌های متضاد و منافع سیاسی بودند، مانند در مورد ارگانیسم‌های اصلاح‌شده ژنتیکی (GMOs) (Jasanoff, 2005; Levidow & Carr 1997) یا بیوتکنولوژی (Jasanoff, 2005; Tallacchini, 2015) پرداخته می‌شود. چنین ارزش‌هایی سپس حذف می‌شوند و فقط زیرمجموعه‌ای از آنها برای دستیابی به کارآمدترین راه‌حل در نظر گرفته می‌شود.

برای تأمل در راه‌هایی که تکنوکراسی و سیاسی‌سازی بر اخلاق هوش مصنوعی تأثیر می‌گذارد، لازم است ابتدا به پاسخ‌های اخلاق زیستی و TA از دهه 1990 به بعد نگاهی بیندازیم.

از ELSI و ELSA تا RRI
برنامه‌های تحقیقاتی اخلاقی، قانونی و اجتماعی
مشکل تخصص بیشتر به بحران اخلاق زیستی سنتی (Solomon, 2014) و افول TA سنتی کمک کرد. این پویایی‌ها به ظهور رویکردهای مختلفی کمک کردند که بیشتر با هدف باز کردن بحث‌های اخلاقی و مشارکت ذینفعان بیشتر، با تمرکز بر همکاری فزاینده با متخصصان از زمینه‌های مختلف (Zwart et al., 2014, p. 6) هدایت می‌شدند.

در ایالات متحده، کمیته‌های اخلاقی متعددی برای حمایت از کار کمیسیون‌های ملی ایجاد شد،Footnote 38 از جمله گروه کار اخلاقی، قانونی و اجتماعی (ELSI) پروژه ژنوم انسانی (HGP)،Footnote 39 که در سراسر جهان به عنوان مبنایی برای یک رویکرد تحقیقاتی متمایز با همان برچسب ELSI شناخته شد. در تضاد با اخلاق زیستی مبتنی بر متخصص و TA (Hedgecoe, 2010)، ELSI رویکردی اولیه و بالادستی را پیشنهاد کرد و تلاش کرد تا با مشارکت ذینفعان بین‌رشته‌ای در فرآیند، فناوری‌های جدید را پیش‌بینی یا پیش‌بینی کند. ایده این بود که به طور جمعی مسیرهای جایگزین را برای ادغام نگرانی‌های اجتماعی در عمل علمی بررسی کنیم، به عنوان مثال با اجازه دادن به دانشمندان علوم اجتماعی برای تعامل با دانشمندان در آزمایشگاه.Footnote 40

چرخش به ELSA در اروپا (1994–2012) و ظهور RRI (2012-present)
ELSI در ایالات متحده موفق به گسترش در خارج از ایالات متحده شد و به عنوان یک مدل برای ELSA در اتحادیه اروپا و برنامه‌های تحقیقاتی کشورهای عضو عمل کرد. همانطور که در مورد اخلاق زیستی، ELSA در اروپا نقش سیاسی متفاوتی نسبت به ELSI در ایالات متحده داشت. ELSA به عنوان ابزاری برای کمک به ادغام توسعه علمی و فناوری جدید در جامعه اروپا، با مشروعیت بخشیدن به تحقیقات و تسهیل پذیرش اجتماعی فناوری‌های نوآورانه، در نتیجه بحران GMO در دهه 1990 (Levidow & Carr, 1997; Rodríguez et al., 2013) در نظر گرفته شد.

جنبه‌های ELS-A برای اولین بار در برنامه‌های چارچوب اروپا (FP) برای تحقیقات و توسعه فناوری در اتحادیه اروپا ظاهر شد، یعنی ابزار اصلی سیاست اتحادیه اروپا برای هدایت تحقیقات و ترویج یکپارچگی اجتماعی-فنی و حمایت از تحقیق و توسعه.Footnote 41 پس از گسترش ELSA در برنامه‌های FP اتحادیه اروپا، رویکردهای ELSA در نهادهای تأمین مالی ملی در چندین کشور عضو نیز ظاهر شدند، مانند شبکه ژنومیک علوم اجتماعی و اقتصادی در انگلستان یا مرکز ژنومیک و جامعه در هلند.Footnote 42

همانطور که در مورد ELSI، رویکردهای ELSA در اروپا متنوع هستند و دارای ویژگی‌های مشترک هستندFootnote 43 اما همچنین از نظر دامنه، تخصص بسیج‌شده و روش‌های مورد استفاده برای پیش‌بینی آینده و مشارکت ذینفعان بسیار ناهمگن هستند (Hilgartner et al., 2017, p. 828; Zwart & Nelis 2009, p. 541).

پس از یک دهه طلایی رویکرد ELSA (2002–2012)، که در آن حوزه‌های مختلف تحت فرآیند "elsification" قرار گرفتند (Zwart et al., 2014, p. 11)، مفهوم جدیدی در گفتمان‌های سیاست و تحقیق کمیسیون اروپا، یعنی RRI، معرفی شد،Footnote 44 که به عنوان یک تغییر اساسی نسبت به گذشته ELSA (Owen, Pansera, Owen et al., 2021a, b) ارائه شد. در حدود سال‌های 2011–2013، این تصور فزاینده‌ای وجود داشت که elsification تحقیقات ناکافی است تا به جنبه‌های اخلاقی فناوری‌های نوظهور، از جمله هوش مصنوعی و رباتیک رسیدگی کند. به گفته ترویج‌دهندگان اصلی RRI،Footnote 45 یک مفهوم گسترده‌تر از مسئولیت و یک طراحی بازتر برای نوآوری مورد نیاز بود (Owen, Schomberg, Owen et al., 2021a, b, p. 220). بر خلاف ELSA، RRI هدف قرار دادن کل فرآیند نوآوری را از تحقیق تا تولید و توزیع، به‌ویژه در مراحل اولیه، به روشی پیش‌بینی‌کننده (Von Schomberg, 2012, p. 16) در نظر گرفت.Footnote 46 به طور خلاصه، RRI به دنبال به چالش کشیدن، جاه‌طلبانه‌تر از ELSA، جفت فناوری/بازار به ظاهر خطی بود که نوآوری را در دهه‌های گذشته تسلط داشت، با پیکربندی مجدد هنجارها، نهادها و سیستم‌های سیاسی که فرآیندهای نوآوری را اداره می‌کنند (Owen, Schomberg, et al., 2021, p. 221).

RRI از برنامه چارچوب Horizon 2020 (H2020) به بعد به عنوان یک تصمیم از بالا به پایین کمیسیون اروپا معرفی شد و بعداً به عنوان یک زمینه دانشگاهی و جنبش فکری نیز تأسیس شد.Footnote 47 در حال حاضر، در حال بحث است که آیا وعده‌ها و انتظارات اولیه در مورد RRI برآورده شده است یا خیر (Owen, Schomberg, et al., 2021, p. 223).

ELSA-I، RRI و محدودیت‌های مشارکت عمومی
ELSI-A (و همچنین RRI بعداً) برای مقابله با برخی از مشکلات تخصص که اخلاق زیستی سنتی و TA با آن مواجه بودند، توسعه یافت. در حالی که در ابتدا ELSI نیز به عنوان یک تخصص اخلاقی و اجتماعی در نظر گرفته می‌شد، مأموریت آن پس از مدتی به سمت مشارکت عمومی تغییر کرد، به‌ویژه در اتحادیه اروپا پس از بحران جنون گاوی و رد GMOها (Hilgartner et al., 2017, p. 830). ایده این بود که با رها کردن مدل "کسری عمومی" که فرض می‌کند عموم مردم فاقد دانش و درک کافی از علم و فناوری اساسی هستند، به یک تعامل دو طرفه با علم دست یابیم (Flynn, 2007, p. 10). این کمبود دانش، به نوبه خود، باعث ایجاد خصومت نسبت به علم و فناوری می‌شود و بنابراین باید برای آزاد کردن پتانسیل کامل آنها برطرف شود.

با این حال، این رهاسازی بیشتر ظاهری بود تا واقعی (Wynne, 2005). برخی از بازیگران سیاسی هنوز نقش خود را در ایجاد بی‌اعتمادی عمومی نادیده می‌گیرند یا نادیده می‌گیرند، نه تنها به دلیل مسئولیت فردی، بلکه "تولید ناخواسته مجموعه‌ای از بازتاب‌ها و عادات نهادی که به طور ناخواسته باعث بیگانه شدن عمومی می‌شود" (Wynne, 2005, p. 217). با تکیه بر مدل قدیمی چارچوب‌بندی عمومی، آنها نمی‌توانند تشخیص دهند که عموم مردم یک ساختار هستند، بازتابی از نیازهای کسانی که در قدرت هستند (Wynne, 2005, p. 218). این امر منجر به این می‌شود که تلاش‌های مشارکتی اغلب محدود هستند، زیرا به دلیل نابرابری قدرت (Hilgartner et al., 2017, p. 838)، تمرین‌های مشارکتی ناکافی و عمیق (Wynne, 2006) یا خطر تولید بازنمایی‌های گمراه‌کننده از ترجیحات عمومی (Casiraghi et al., 2021; Hilgartner et al., 2017; Tait, 2009) نتایج قابل توجهی ندارند.

علیرغم تلاش‌ها برای متمایز کردن RRI از ELSA، تا به امروز، نشان داده شده است که RRI مشکلات مشابهی با ELSA دارد. RRI هنوز به طور مبهم تعریف شده است، یا دیدگاه‌های مختلف لزوماً با یکدیگر سازگار نیستند.Footnote 48 یکی از راه‌های تعریف RRI تأکید بر مشارکت عمومی است، به عنوان یک ویژگی برجسته هوش مصنوعی انسان‌محور. به عنوان مثال، در دستورالعمل‌های AI HLEG، مشارکت عمومی به عنوان یک الزام "روش‌های غیرفنی" برای اطمینان از هوش مصنوعی قابل اعتماد (High-Level Expert Group on Artificial Intelligence, 2019a, pp. 4–5) ذکر شده است. پس از انتشار دستورالعمل‌ها، AI HLEG یک مرحله آزمایشی را سازماندهی کرد که در آن از ذینفعان دعوت شد تا در مورد لیست ارزیابی دستورالعمل‌ها که در دستورالعمل‌ها گنجانده شده است، بازخورد ارائه دهند، که منجر به لیست ارزیابی ALTAI (High-Level Expert Group on Artificial Intelligence, 2020) شد.

اگرچه این اشکال مشارکت باید گروه‌های مختلف را توانمند سازد و به آنها اجازه دهد در بحث در مورد اخلاق هوش مصنوعی شرکت کنند، دلایلی برای تردید در مورد این نتایج وجود دارد (van Dijk et al., 2021, p. 11). اول، در مورد مرحله آزمایشی، فقط بخش آخر سند شامل سؤالات راهنما برای عملیاتی کردن بینش‌های بقیه سند برای بازبینی و نظرات باز بود و نه کل سند. ایده پشت آن این بود که "سازمان‌هایی که روی هوش مصنوعی کار می‌کنند" "آزمایش" لیست ارزیابی دستورالعمل‌های اخلاقی را انجام دهند، که عمدتاً شامل شرکت‌های فناوری می‌شد. همچنین، ذکر شد که حلقه بازخورد به درک بهتر چگونگی پیاده‌سازی لیست ارزیابی در یک سازمان کمک می‌کند، و در نتیجه ابزاری برای گسترش اصول و الزامات است که از قبل مورد بحث قرار نگرفته‌اند. در مقابل، بخش‌های اول سند که مبانی مفهومی، الزامات و اصول را بیان می‌کنند، برای مشاوره باز نبودند. این عناصر نشان می‌دهند که چگونه اخلاق می‌تواند نهادهای اتحادیه اروپا را توانمند سازد در حالی که شهروندان را تضعیف می‌کند. اسناد اخلاقی اغلب بین "عموم مردم" که نیاز به نظرسنجی و آموزش منفعلانه دارند و "ذینفعان" (به عنوان مثال، دانشمندان یا افراد تجاری) که فعالانه نظرات و دانش خود را ارائه می‌دهند، تمایز قائل می‌شوند (Greene et al., 2019, p. 2126) و در نتیجه فضای کمی برای مشارکت جامعه مدنی وجود دارد (Stolton, 2018).

نتیجه‌گیری
به طور خلاصه، این مقاله به بررسی برخی از ریشه‌های نهادینه‌شدن اخلاق هوش مصنوعی پرداخت. این مقاله قصد ندارد جامع باشد، بلکه هدف آن برجسته کردن برخی از الگوها و ویژگی‌های مشترک بین رویکردهای نهادینه‌شده قبلی به ارزیابی فناوری (برخی از آنها به‌صراحت "اخلاق" را در بر می‌گیرند، یعنی اخلاق زیستی و ELSA/I، و برخی دیگر نه، یعنی TA و RRI) و اخلاق هوش مصنوعی در نهادهای اتحادیه اروپا است. اخلاق زیستی، TA، ELSA-I و RRI به عنوان رویکردهای نهادینه‌شده برای ارزیابی و حکمرانی تأثیرات فناوری‌های نوظهور، به دلایل مختلف در ایالات متحده و اتحادیه اروپا توسعه یافته‌اند. این رویکردها شباهت‌هایی (از جمله گفتمان‌ها و روش‌های مورد استفاده، اهمیت داده شده به تخصص و/یا مشارکت عمومی) دارند، اما همچنین در مخالفت با پیشینیان خود (به عنوان مثال، ELSI در مقابل اخلاق زیستی سنتی، RRI در مقابل ELSA) توسعه یافته‌اند تا شکاف‌ها را پر کرده و چالش‌ها را برطرف کنند.

اول، نهادینه‌شدن "اخلاق سنتی" زیستی در ایالات متحده و اتحادیه اروپا مورد بررسی قرار گرفت. در حالی که منشأ اخلاق زیستی در ایالات متحده بیشتر به اختلافات مربوط به اقتدار دانشمندان و نقش دولت فدرال در کنترل اخلاق تحقیقات مربوط می‌شد، مورد اتحادیه اروپا بیشتر به حل مشکل کسری دموکراتیک و ایجاد هویت اروپایی مربوط بود. دوم، مورد TA ارائه شد. تاریخچه TA در ایالات متحده به طور جدایی‌ناپذیری با OTA مرتبط بود و نقش آن در میانجی‌گری بین تنش‌ها بین شاخه‌های اجرایی و مقننه دولت فدرال ایالات متحده بود. در اتحادیه اروپا، TA به طور متفاوتی از مفهوم اولیه OTA تکامل یافت، هم به دلیل تفاوت‌های سیاسی و هم به دلیل دلایل اتفاقی بودجه و ظرفیت. سوم، توسعه ELSI/A و RRI توصیف شد. ELSA در ایالات متحده به عنوان یک رویکرد جایگزین برای اخلاق زیستی سنتی توسعه یافت و بر مشارکت اولیه و بین‌رشته‌ای تأکید داشت. ELSA در اروپا نقش سیاسی متفاوتی نسبت به ELSI در ایالات متحده داشت و هدف آن ادغام توسعه علمی و فناوری جدید در جامعه اروپا بود. RRI به عنوان یک رویکرد جدیدتر معرفی شد که هدف آن فراتر رفتن از محدودیت‌های ELSA و ترویج یک رویکرد مسئولانه‌تر و فراگیرتر به نوآوری بود. در نهایت، چالش‌های پیش روی این اشکال اخلاق نهادینه‌شده مربوط به چالش‌هایی بود که اخلاق هوش مصنوعی امروز در اتحادیه اروپا با آن مواجه است. مقایسه نشان داد که علیرغم تغییر برچسب‌ها و رویکردها، چالش‌های مشترک و حل‌نشده‌ای در اخلاق وجود دارد که مربوط به روش‌های مورد استفاده، آسیب‌پذیری در برابر سیاسی‌سازی و (سوء استفاده از) مشارکت عمومی است.

از نظر روش‌شناختی، ارزش رویکرد اصول‌گرایی و به طور کلی جستجوی بهترین اصول برای اخلاق هوش مصنوعی باید مورد سؤال قرار گیرد. در حالی که ادعای اخلاق اتحادیه اروپا بر اساس حقوق اساسی و ارزش‌های اتحادیه اروپا است، اغلب به اصول اخلاقی زیستی متکی است که ریشه در یک دیدگاه هزینه-منفعت و رویکرد مبتنی بر خطر دارد. در حالی که ایده عملیاتی‌سازی اصول ممکن است از نظر مهندسی جذاب باشد، چالش‌هایی را برای نحوه بیان و عملیاتی‌سازی حقوق اساسی در زمینه اتحادیه اروپا ایجاد می‌کند. یک راه برای استفاده از دانش اخلاق دانشگاهی می‌تواند بازسازی استفاده از فلسفه اخلاقی باشد. آموزش در فلسفه اخلاقی هنوز هم می‌تواند مشارکت‌های متعددی ارائه دهد، مانند چارچوب‌بندی بحث‌ها و روشن کردن مواضع مختلف، ارزیابی مواضع مختلف و تسهیل همکاری و مشارکت (Bietti, 2020).

در مورد سیاسی‌سازی اخلاق، آنچه نگران‌کننده است، حذف افراد و گروه‌هایی است که به بحث در مورد اهداف به جای چگونگی توسعه چارچوب‌های اخلاقی و اصول برای دستیابی به اهداف از پیش تعریف شده علاقه‌مند هستند. گروه‌های جامعه مدنی اغلب در بحث‌ها حاشیه‌نشین می‌شوند، در حالی که در مورد شستشوی اخلاقی و متن قانون هوش مصنوعی اتحادیه اروپا بسیار فعال بوده‌اند.Footnote 50 مسائل سیاسی و رویه‌ای از اهمیت بالایی برخوردار هستند. علیرغم اصلاحات اخیر در گروه‌های تخصصی کمیسیون اروپا،Footnote 51 هنوز کمبودهایی در نحوه عملکرد این گروه‌ها وجود دارد، به‌ویژه در مورد تعادل پیشینه‌های انضباطی و دیدگاه‌های سیاسی اعضای آنها. در هر صورت، انحراف از قوانین برای جلوگیری از عدم تعادل انضباطی و سوگیری باید با تحریم‌ها اعمال شود.

در مورد مشارکت عمومی، ساده‌لوحانه است که صرفاً خواستار مشارکت بیشتر و مشارکت "همه ذینفعان" یا یک "رویکرد چند ذینفعی" "در طول فرآیند اجرای سیستم‌های هوش مصنوعی" (High-Level Expert Group on Artificial Intelligence, 2019b, p. 37, 2019a, p. 19) شویم. اشکال مختلفی از مشارکت وجود دارد و اهداف متفاوتی دارد.Footnote 51 مشارکت عمومی باید به‌طور خاص‌تر تعریف شود و در مورد نحوه انجام فعالیت‌های مشارکتی، برای چه کسانی و برای چه اهدافی انجام می‌شود، تأمل شود، یا چه کسانی باید در چه مرحله‌ای شرکت کنند.

در نتیجه، فرصت‌هایی برای تغییر حکمرانی هوش مصنوعی بر اساس ملاحظات اخلاقی خاص وجود دارد، اما تغییرات ساختاری و گفتمانی در اخلاق نهادینه‌شده برای جلوگیری از دام‌های گذشته ایالات متحده و اتحادیه اروپا مورد نیاز است. برای اجرای این تغییرات، می‌توان دو استراتژی مختلف را دنبال کرد. از یک طرف، اگر زبان اخلاق در گفتمان عمومی مفید تلقی شود، رویکرد متفاوتی به این اخلاق، از نظر روش‌شناختی و نهادی، توصیه می‌شود. تعارضات و دیدگاه‌های مختلف در مورد حکمرانی هوش مصنوعی را می‌توان پذیرفت به جای تلاش برای دستیابی به اجماع به هر قیمتی (Mouffe, 2001) به نام "ارزش‌های مشترک" که همه شهروندان اتحادیه اروپا دارند. از طرف دیگر، روشن‌سازی استفاده از اصطلاح "اخلاق" به طور کلی مورد نیاز است،Footnote 53 زیرا با کسب معانی مختلف در اسناد و گفتمان‌های مورد تجزیه و تحلیل، به یک علامت خالی تبدیل شده است (Mouffe, 2001; van Dijk et al., 2021) که می‌تواند آزادانه معنای خود را تغییر دهد. در برخی موارد، این می‌تواند به معنای روشن کردن مبنای فلسفی (به عنوان مثال، فرضیات متااخلاقی یا نظریه هنجاری) پشت ادعاهای اخلاقی باشد. در موارد دیگر، "کاهش" استفاده از اصطلاح ممکن است توصیه شود. رویکردهای انسان‌محور و قابل اعتماد برای هوش مصنوعی و ابتکارات مشارکت عمومی لزوماً نیازی به نام‌گذاری "اخلاقی" ندارند، که می‌تواند گمراه‌کننده باشد و منجر به ابزارگرایی شود، اما می‌توان آنها را با اشاره به حقوق بشر، دموکراسی و حاکمیت قانون به‌طور قوی مفهوم‌سازی کرد.Footnote 54

یادداشت‌ها

این مورد در مورد تحقیق و نوآوری مسئولانه (RRI) صادق نیست. به (Owen, Schomberg, et al., 2021; Shanley, 2021) مراجعه کنید.
اخلاقی‌سازی به عنوان "گسترش احضار 'اخلاق' و 'اصول و ارزش‌های اخلاقی' در حقوقی، سیاست، آکادمیک و گفتمان‌های شرکتی در مورد حکمرانی فناوری و اهمیت فزاینده تخصص اخلاقی از طریق نهادهایی مانند کمیته‌های اخلاقی، گروه‌های مشورتی و هیئت‌ها، و همچنین از طریق رویه‌هایی که در اسناد روش‌شناختی مانند دستورالعمل‌های اخلاقی و چک‌لیست‌ها گنجانده شده‌اند" تعریف می‌شود. به (van Dijk et al., 2021, p. 2) مراجعه کنید.
با استثنائات قابل توجهی، به عنوان مثال، (Mittelstadt, 2019)
این مقاله قصد ندارد جامع باشد، بلکه هدف آن برجسته کردن برخی از الگوها و ویژگی‌های مشترک بین رویکردهای نهادینه‌شده قبلی به ارزیابی فناوری است (برخی از آنها به‌صراحت "اخلاق" را در بر می‌گیرند، یعنی اخلاق زیستی و ELSA/I، و برخی دیگر نه، یعنی TA و RRI) و اخلاق هوش مصنوعی در نهادهای اتحادیه اروپا.
این روش‌ها تحت عنوان "اخلاقی" نامیده شده‌اند، حتی اگر به رشته‌ها و روش‌شناسی‌های مختلفی تعلق دارند، از جمله فلسفه، جامعه‌شناسی، مدیریت، مطالعات رسانه یا علوم کامپیوتر. به (Reijers et al., 2018) مراجعه کنید.
از آنجایی که مقالات متعددی در حال حاضر در مورد نهادینه‌سازی فعلی اخلاق هوش مصنوعی نوشته شده است، این بخش به دلیل محدودیت فضا حذف شده است. به عنوان مثال، (Hagendorff, 2020; Jobin et al., 2019; van Dijk et al., 2021)
من از بازبین ناشناس برای پیشنهادات مفید برای بازسازی بخشی از مقاله سپاسگزارم.
این مقاله توسط برنامه تحقیقاتی استراتژیک VUB "بیان قانون، فناوری، اخلاق، سیاست: مسائل اجرای و صلاحیت قانون حفاظت از داده اتحادیه اروپا تحت و فراتر از مقررات عمومی حفاظت از داده (ALTEP-DP)" تأمین مالی شده است.
اطلاعات نویسنده
گروه تحقیقاتی قانون، علم، فناوری و جامعه (LSTS) دانشکده حقوق و جرم‌شناسی، دانشگاه آزاد بروکسل (VUB)، Pleinlaan 2، بروکسل، 1050، بلژیک
Simone Casiraghi

نویسندگان

Simone Casiraghi
شما همچنین می‌توانید این نویسنده را در PubMed Google Scholar جستجو کنید

نویسنده مسئول
مکاتبات با Simone Casiraghi.
اطلاعات اضافی
یادداشت ناشر
اسپرینگر نچر به نظر به ادعاهای قضایی در نقشه‌ها و وابستگی‌های نهادی منتشر شده بی‌طرف است.
دسترسی باز این مقاله تحت مجوز Creative Commons Attribution 4.0 International License منتشر شده است، که استفاده، اشتراک‌گذاری، اقتباس، توزیع و تولید مجدد را در هر رسانه یا فرمتی مجاز می‌کند، به شرطی که اعتبار مناسب به نویسنده(گان) اصلی و منبع داده شود، پیوندی به مجوز Creative Commons ارائه شود و اگر تغییراتی ایجاد شده باشد، ذکر شود. حقوق مالکیت معنوی مواد شخص ثالث در این مقاله، مگر اینکه در خط اعتبار ذکر شده باشد، تحت مجوز Creative Commons قرار نمی‌گیرند. برای مشاهده نسخه‌ای از این مجوز، به http://creativecommons.org/licenses/by/4.0/ مراجعه کنید.
چاپ مجدد و مجوزها
درباره این مقاله
Crossmark
این مقاله را نقل قول کنید
Casiraghi, S. آیا چیز جدیدی زیر آفتاب وجود دارد؟ بینش‌هایی از تاریخچه اخلاق هوش مصنوعی نهادینه‌شده. Ethics Inf Technol 25, 28 (2023). https://doi.org/10.1007/s10676-023-09702-0
دانلود نقل قول

منتشر شده: 24 آوریل 2023
DOI: https://doi.org/10.1007/s10676-023-09702-0

کلیدواژه‌ها


نوآوری‌های برتر فناوری در موسیقی: چگونگی تغییر چشم‌انداز موسیقی توسط فناوری

موسیقی از ابتدای تمدن بشری بخش جدایی‌ناپذیری از آن بوده است. موسیقی در طول سال‌ها تکامل یافته و با پیشرفت فناوری، صنعت موسیقی دستخوش تحول چشمگیری شده است. فناوری نقش مهمی در شکل‌دهی به نحوه خلق، توزیع و مصرف موسیقی ایفا کرده است. در این مقاله، به بررسی چگونگی تغییر چشم‌انداز موسیقی توسط فناوری و نوآوری‌های برتر فناوری که صنعت موسیقی را متحول کرده‌اند، می‌پردازیم.

تکامل فناوری موسیقی

صنعت موسیقی از زمان اختراع فونوگراف در سال 1877 راه زیادی را طی کرده است. فونوگراف اولین دستگاهی بود که می‌توانست صدا را ضبط و پخش کند. پس از آن، گرامافون به بازار آمد که به جای استوانه از یک دیسک تخت استفاده می‌کرد. با معرفی رادیو در اوایل دهه 1900، مردم می‌توانستند از راحتی خانه‌های خود به موسیقی گوش دهند. در دهه 1960، نوار کاست معرفی شد که به مردم امکان می‌داد موسیقی را ضبط کرده و میکس‌تیپ‌های خود را بسازند.

دهه 1980 شاهد معرفی دیسک فشرده (CD) بود که نحوه توزیع موسیقی را متحول کرد. CD کوچکتر، بادوام‌تر و کیفیت صدای بهتری نسبت به صفحه وینیل داشت. در اواخر دهه 1990، موسیقی دیجیتال با معرفی فرمت MP3 شروع به محبوب شدن کرد. این امر امکان دانلود و اشتراک‌گذاری موسیقی را به صورت آنلاین فراهم کرد.

نوآوری‌های برتر فناوری در موسیقی

در دنیای موسیقی که دائماً در حال تحول است، پیشرفت‌های فناوری تأثیر تحول‌آمیزی داشته و نحوه خلق، تجربه و به اشتراک‌گذاری موسیقی را تغییر داده است. این بخش به برخی از برجسته‌ترین نوآوری‌های فناوری می‌پردازد که صنعت موسیقی را به قلمروهای جدیدی سوق داده و فرآیند خلاقانه را غنی کرده، چشم‌اندازهای صوتی را تغییر داده و نحوه تعامل مخاطبان با هنر موسیقی را متحول کرده است.

ایستگاه‌های کاری صوتی دیجیتال (DAW)

ایستگاه‌های کاری صوتی دیجیتال (DAW) برنامه‌های نرم‌افزاری هستند که به تهیه‌کنندگان امکان می‌دهند موسیقی را روی کامپیوتر ضبط، ویرایش و میکس کنند. DAWها با امکان دادن به هر کسی که به کامپیوتر دسترسی دارد تا موسیقی با کیفیت حرفه‌ای ایجاد کند، صنعت موسیقی را متحول کرده‌اند. برخی از DAWهای محبوب عبارتند از Ableton Live، Logic Pro X و Pro Tools.

Auto-Tune

Auto-Tune یک نرم‌افزار تصحیح زیر و بم صدا است که برای اولین بار در اواخر دهه 1990 معرفی شد. از آن زمان به ابزاری فراگیر در صنعت موسیقی تبدیل شده است که برای تصحیح خطاهای زیر و بم صدا و ایجاد جلوه رباتیک متمایز که در بسیاری از آهنگ‌های پاپ شنیده می‌شود، استفاده می‌شود. Auto-Tune به دلیل استفاده بیش از حد مورد انتقاد قرار گرفته است، اما نمی‌توان تأثیر آن بر این صنعت را انکار کرد.

سرویس‌های پخش موسیقی

سرویس‌های پخش موسیقی مانند Spotify، Apple Music و Tidal نحوه مصرف موسیقی توسط مردم را تغییر داده‌اند. به جای خرید نسخه‌های فیزیکی آلبوم‌ها، مردم اکنون می‌توانند به میلیون‌ها آهنگ در تلفن یا رایانه خود دسترسی داشته باشند. سرویس‌های پخش موسیقی همچنین امکان دسترسی هنرمندان مستقل به مخاطبان گسترده‌تری را بدون حمایت یک شرکت ضبط بزرگ فراهم کرده‌اند.

شبکه‌های اجتماعی

شبکه‌های اجتماعی ارتباط بین هنرمندان و طرفدارانشان و تبلیغ موسیقی را آسان‌تر کرده است. پلتفرم‌هایی مانند اینستاگرام، توییتر و تیک‌تاک به ابزارهای بازاریابی قدرتمندی برای موسیقی‌دانان تبدیل شده‌اند. شبکه‌های اجتماعی همچنین امکان کشف هنرمندان جدید و ارتباط طرفداران با یکدیگر را فراهم کرده‌اند.

واقعیت مجازی (VR) و واقعیت افزوده (AR)

واقعیت مجازی (VR) و واقعیت افزوده (AR) پتانسیل متحول کردن نحوه تجربه موسیقی توسط مردم را دارند. VR و AR می‌توانند برای ایجاد موزیک ویدیوها و اجراهای زنده فراگیر استفاده شوند. آنها همچنین می‌توانند برای ایجاد تجربیات موسیقی تعاملی استفاده شوند که در آن طرفداران می‌توانند به روش‌های جدید با موسیقی تعامل داشته باشند.

حرفه و آموزش

صنعت موسیقی دائماً در حال تحول است و متخصصان موسیقی مشتاق باید با آخرین روندها و فناوری‌ها به‌روز باشند. مسیرهای شغلی متعددی در صنعت موسیقی وجود دارد، از جمله تولید موسیقی، مدیریت هنرمند، بازاریابی و موارد دیگر. ادامه تحصیل در رشته کسب‌وکار موسیقی یا تولید موسیقی می‌تواند راهی عالی برای کسب مهارت‌ها و دانش لازم برای موفقیت در این صنعت باشد.

نکات کلیدی

فناوری نقش مهمی در شکل‌دهی به صنعت موسیقی، از اختراع فونوگراف تا معرفی سرویس‌های پخش موسیقی ایفا کرده است. ایستگاه‌های کاری صوتی دیجیتال (DAW)، Auto-Tune، سرویس‌های پخش موسیقی، شبکه‌های اجتماعی و واقعیت مجازی (VR) و واقعیت افزوده (AR) برخی از نوآوری‌های برتر فناوری هستند که این صنعت را متحول کرده‌اند. اگر به دنبال شغلی در صنعت موسیقی هستید، شرکت در دوره آنلاین و برنامه گواهینامه NYU x Billboard | Music Industry Essentials را برای کسب مهارت‌ها و دانش لازم برای موفقیت در نظر بگیرید.


تأثیر فناوری بر موسیقی

موسیقی همواره بخش اساسی از فرهنگ بشری بوده است که در طول زمان تکامل یافته و خود را با شرایط جدید سازگار کرده است. از ابتدایی‌ترین اشکال آواهای قبیله‌ای گرفته تا سمفونی‌های پیچیده دوران کلاسیک، موسیقی قدرت برانگیختن احساسات، روایت داستان‌ها و گرد هم آوردن مردم را دارد. در دهه‌های اخیر، فناوری نقش بسزایی در شکل‌دهی به صنعت موسیقی و متحول کردن نحوه خلق، توزیع و مصرف موسیقی ایفا کرده است. در این مقاله، به بررسی تأثیر عمیق فناوری بر موسیقی می‌پردازیم و اثرات آن را بر جنبه‌های مختلف این صنعت بررسی خواهیم کرد.

تأثیر فناوری بر تولید موسیقی

یکی از مهم‌ترین راه‌هایی که فناوری بر موسیقی تأثیر گذاشته است، فرآیند تولید موسیقی است. در گذشته، ضبط موسیقی نیازمند تجهیزات گران‌قیمت و دست و پا گیر بود که دسترسی به استودیوهای حرفه‌ای و مهندسان ماهر را محدود می‌کرد. امروزه، پیشرفت در فناوری ضبط دیجیتال، فرآیند تولید موسیقی را دموکراتیک کرده است. با ظهور نرم‌افزار و سخت‌افزار ضبط مقرون به صرفه، هنرمندان اکنون می‌توانند ضبط‌های باکیفیتی را در آسایش خانه‌های خود ایجاد کنند. این امر منجر به افزایش هنرمندان مستقل و تنوع سبک‌های موسیقی شده است، زیرا هنرمندان دیگر محدود به محدودیت‌های استودیوهای ضبط سنتی نیستند.

فناوری و توزیع موسیقی

علاوه بر این، فناوری نحوه توزیع و مصرف موسیقی را متحول کرده است. ظهور اینترنت و پلتفرم‌های دیجیتال فرصت‌های بی‌سابقه‌ای را برای هنرمندان فراهم کرده است تا به مخاطبان جهانی دست یابند. سرویس‌های پخش موسیقی آنلاین مانند Spotify و Apple Music دسترسی و کشف موسیقی جدید را برای شنوندگان آسان‌تر از همیشه کرده‌اند. این تغییر در توزیع تأثیر عمیقی بر صنعت موسیقی داشته است، به طوری که هنرمندان اکنون بیشتر به فروش بلیط کنسرت و کالاهای تجاری به جای فروش آلبوم برای کسب درآمد متکی هستند. علاوه بر این، پلتفرم‌های رسانه‌های اجتماعی به هنرمندان اجازه داده‌اند تا به طور مستقیم با طرفداران خود تعامل داشته باشند، پایگاه طرفداران وفاداری ایجاد کنند و حس اجتماع را تقویت کنند.

تأثیر فناوری بر اجراهای زنده موسیقی

علاوه بر تولید و توزیع، فناوری نحوه اجرای موسیقی به صورت زنده را نیز متحول کرده است. معرفی سازهای الکترونیکی و تجهیزات، مانند سینتی سایزرها و درام ماشین‌ها، امکانات صوتی را برای نوازندگان گسترش داده است. اجراهای زنده با ادغام نورپردازی، جلوه‌های بصری و صحنه‌ای، جذاب‌تر و از نظر بصری خیره‌کننده‌تر شده‌اند. فناوری همچنین همکاری از راه دور هنرمندان را آسان‌تر کرده است، موانع جغرافیایی را از بین می‌برد و به نوازندگان از نقاط مختلف جهان اجازه می‌دهد تا با هم موسیقی خلق کنند.

نقش فناوری در آموزش موسیقی

تأثیر فناوری بر موسیقی فراتر از خلق و مصرف موسیقی است. این فناوری نحوه تعامل ما با آموزش موسیقی را نیز متحول کرده است. پلتفرم‌های آنلاین مانند Yellowbrick دوره‌های تخصصی ارائه می‌دهند که به نوازندگان مشتاق دانش و مهارت‌های لازم برای موفقیت در صنعت موسیقی را ارائه می‌دهند. این دوره‌ها طیف گسترده‌ای از موضوعات، از جمله تولید موسیقی، آهنگسازی و تجارت موسیقی را پوشش می‌دهند و به افراد قدرت می‌دهند تا با اشتیاق خود به موسیقی به شیوه‌ای ساختاریافته و جامع بپردازند.

نکات کلیدی

فناوری صنعت موسیقی را متحول کرده و بر تولید، توزیع و اجراهای زنده تأثیر گذاشته است.
پیشرفت در فناوری ضبط دیجیتال، تولید موسیقی را دموکراتیک کرده و به هنرمندان اجازه می‌دهد تا ضبط‌های باکیفیتی را در خانه ایجاد کنند.
پلتفرم‌های آنلاین و سرویس‌های پخش موسیقی به هنرمندان دسترسی جهانی داده‌اند و نحوه توزیع و مصرف موسیقی را متحول کرده‌اند.
فناوری امکانات صوتی را برای نوازندگان گسترش داده و اجراهای زنده را جذاب‌تر و از نظر بصری خیره‌کننده‌تر کرده است.
پلتفرم‌های آموزش موسیقی آنلاین مانند Yellowbrick دوره‌های تخصصی ارائه می‌دهند تا به نوازندگان مشتاق کمک کنند تا در این صنعت موفق شوند.

اگر به دنبال شغلی در صنعت موسیقی هستید، به شرکت در دوره آنلاین و برنامه گواهینامه "تجارت سرگرمی NYU" که توسط Yellowbrick ارائه می‌شود، فکر کنید. این برنامه جامع بینش‌ها و دانش ارزشمندی را در مورد جنبه‌های تجاری صنعت سرگرمی در اختیار شما قرار می‌دهد. چه به دنبال تبدیل شدن به یک نوازنده، تهیه‌کننده یا متخصص صنعت باشید، این دوره شما را با مهارت‌های لازم برای پیمایش در چشم‌انداز در حال تکامل صنعت موسیقی مجهز می‌کند. امروز سفر خود را آغاز کنید و پتانسیل خود را در دنیای موسیقی با دوره‌های آنلاین Yellowbrick باز کنید.