پایگاه خبری فولاد ایران- رگولاتورهای ارشد فدرال برای اولین بار هشدار می دهند که استفاده از هوش مصنوعی خطری برای سیستم مالی دارد.
شورای نظارت بر ثبات مالی، تیمی از تنظیم‌کننده‌های پیشرو در سراسر دولت ایالات متحده، روز پنجشنبه هوش مصنوعی را به‌عنوان یک «آسیب نوظهور» طبقه‌بندی کرد.
مدل‌های پیشرفته هوش مصنوعی در سال‌های اخیر محبوبیت زیادی پیدا کرده‌اند، درحالیکه بسیاری از نام‌های مطرح در این حوزه می‌گویند که این فناوری نوپا در صورت رشد خارج از کنترل می‌تواند اثرات فاجعه‌باری داشته باشد.
شورای نظارت بر ثبات مالی (FSOC)، در گزارش سالانه خود هشدار داد: "هوش مصنوعی پتانسیل تحریک نوآوری و افزایش کارایی را دارد، اما استفاده از آن در خدمات مالی مستلزم اجرا و نظارت دقیق برای مدیریت ریسک های بالقوه است."
FSOC، که پس از بحران مالی 2008 توسط وزیر خزانه داری ایالات متحده، جانت یلن ایجاد شد، هشدار داد که هوش مصنوعی می تواند "خطرات خاصی را وارد کند"، از جمله نگرانی های امنیت سایبری، خطرات انطباق و مسائل مربوط به حریم خصوصی.
رگولاتورها همچنین نگرانی خود را در مورد "عوامل پیچیده" مربوط به مدل های هوش مصنوعی مولد مانند ChatGPT ابراز کردند.
نگرانی دیگر برای تنظیم‌کننده‌ها این است که برخی از مدل‌های هوش مصنوعی به‌عنوان «جعبه‌های سیاه» عمل می‌کنند. به این معنی که عملکرد درونی آنها برای افراد خارجی غیرقابل نفوذ است.
FSOC گفت: "فقدان "توضیح پذیری" می تواند ارزیابی درستی مفهومی سیستم را دشوار کند و عدم اطمینان در مورد مناسب بودن و قابلیت اطمینان آنها را افزایش دهد. به عبارت دیگر، اگر بانک‌ها به مدل‌های مرموز هوش مصنوعی متکی باشند، درک اینکه واقعاً سیستم‌های زیربنایی آنها چقدر مستحکم هستند را دشوار می‌کند.
در همین راستا، تنظیم‌کننده‌ها در مورد اینکه چگونه این سیستم‌های هوش مصنوعی می‌توانند «نتایج مغرضانه یا نادرست را تولید کنند و احتمالاً پنهان کنند» ابراز نگرانی کردند. FSOC گفت که این به نوبه خود باعث ایجاد نگرانی در مورد وام دهی منصفانه و سایر مسائل مربوط به حمایت از مصرف کننده می شود.
به گزارش فولاد ایران، سرمایه گذاری و پذیرش هوش مصنوعی رونق گرفته است، حتی زمانی که برخی کارشناسان نسبت به خطرات جدی این فناوری هشدار می دهند. پرزیدنت جو بایدن اخیراً فرمان اجرایی را امضا کرد که به آژانس‌های فدرال دستور می‌دهد تا گام‌هایی را برای حفاظت از توسعه هوش مصنوعی، که حوزه پررونق پذیرش و سرمایه‌گذاری است، بردارند.
منبع: CNN