پایگاه خبری فولاد ایران- از سیستم‌های شناسایی بیومتریک که چهره سیاه‌پوستان و اقلیت‌ها را به‌طور نامتناسب شناسایی می‌کنند، تا برنامه‌های نرم‌افزار تشخیص صدا که قادر به تشخیص صداها با لهجه‌های منطقه‌ای مشخص نیستند، هوش مصنوعی باید روی تبعیض‌ها کار کند.
به گزارش فولاد ایران، مشکل تشدید این سوگیری های موجود می تواند در مورد خدمات بانکی و مالی حتی شدیدتر باشد.
نبیل مانجی، رئیس بخش رمزنگاری، گفت که نکته کلیدی در مورد محصولات هوش مصنوعی این است که قدرت این فناوری تا حد زیادی به مواد اولیه مورد استفاده برای آموزش آن بستگی دارد. او گفت: خوب بودن یک محصول هوش مصنوعی، بر مبنای دو متغیر است: یکی داده هایی که به آنها دسترسی دارد و دوم وسعت مدل زبان آن است.
در مورد خدمات مالی، مانجی گفت که بسیاری از سیستم‌های داده پشتیبان به زبان‌ها و قالب‌های مختلف تکه تکه شده‌اند.
وی افزود: "هیچ یک از آن ها یکپارچه یا هماهنگ نیست. این امر باعث می‌شود که محصولات مبتنی بر هوش مصنوعی در خدمات مالی بسیار کمتر از سایر شرکت‌هایی که دارای سیستم‌های یکنواخت و مدرن‌تر هستند یا به داده‌ها دسترسی دارند، مؤثر باشد."
مانجی پیشنهاد کرد که بلاک چین یا فناوری دفتر کل توزیع‌شده می‌تواند به عنوان راهی برای دریافت دید واضح‌تری از داده‌های نامتجانس موجود در سیستم‌های به هم ریخته بانک‌های سنتی باشد. با این حال، او اضافه کرد که بانک‌ها به عنوان مؤسسه‌هایی که به شدت تنظیم می‌شوند و به کندی حرکت می‌کنند، بعید است که با همان سرعتی که همتایان فناوری زیرک‌تر خود در اتخاذ ابزارهای جدید هوش مصنوعی حرکت کنند، حرکت کنند.
شما مایکروسافت و گوگل را دارید که در یکی دو دهه گذشته به عنوان محرک نوآوری شناخته شده اند. آنها نمی توانند با این سرعت پیش بروند. و سپس به خدمات مالی فکر می کنید. مانجی گفت: بانک ها به سریع بودن معروف نیستند.
منبع: CNBC