شبکه عصبی

کامپیوترهای مغز‌مانند جعبه سیاه هستند

ماه گذشته فیسبوک از نرم‌افزاری رونمایی کرد که به سادگی می‌تواند به تصویر نگاه کند و بگوید که آیh  تصویر سگ است یا گربه. برنامه مرتبطی که آسیب‌های پوستی سرطانی را به خوبی متخصصین پوست حرفه‌ای شناسایی می‌کند. هر دو فناوری مبتنی بر شبکه‌های عصبی هستند. شبکه‌های عصبی الگوریتم‌های کامپیوتری پیچیده در لبه برشی و از آخرین پیشرفت‌های هوش مصنوعی است که حتی توسعه دهندگان آنها نیز مطمئن نیستند دقیقا چطور کار می‌کنند. اکنون، پژوهشگران رویشی برای نگاه کردن “look” به شبکه‌های طبعی در عمل یافته‌اند و اینکه چگونه استنتاج‌ها را انجام می‌دهند مشاهده کردند.

شبکه‌های عصبی که تورهای عصبی نیز صدا زده می‌شوند، مبتنی بر استفاده آزادانه مغز از لایه‌های عصبی‌ای که با یکدیگر کار می‌کنند است. مانند مغز انسان، آنها برای تولید نتجه معین سیم کشی شده نیستند، بلکه از مجموعه‌ داده‌های آموزش دهنده‌ای یاد می‌گیرند و ارتباطات قوی بین چندین ورودی را برقرار می‌کنند. یک شبکه عصبی ممکن است لایه‌ای از عصب‌هایی داشته باشد که پیکسل‌ها را مشاهده می‌کنند، و لایه عصبی دیگری داشته باشد که به لبه‌ها (مانند طرح کلی شخصی در مقابل یک پس‌زمینه) می‌نگرد. بعد از آموزش دیدن با هزاران یا میلیون‌ها نقطه داده، یک الگوریتم شبکه عصبی با قوانینی در مورد چگونگی پردازش داده جدید مجهز می‌شود. اما روشن نیست که چگونه این الگوریتم از این داده‌ها برای استنتاج استفاده می‌کند.

«شبکه‌های عصبی مدل‌های ریاضی شگفت‌انگیزی هستند.» این گفته وُجسیچ اسمِک، پژوهشگری در موسسه فرانکفورت ارتباطات از راه دور در موسسه هرنی هرتز در برلین است. «آنها در بسیاری از زمینه‌ها از مدل‌های کلاسیک بهتر هستند، اما اغلب به عنوان رفتار جعبه سیاه استفاده می‌شوند.»

در تلاشی برای باز کردن قفل این جعبه سیاه، اسمِک و همکارش نرم‌افزاری ایجاد کردند که می‌تواند از طریق چنین شبکه‌هایی می‌تواند به عقب برگردد و تصمیم معینی  به همراه چگونگی تاثیر آن بر نتایج را ببیند. روش‌ آنها که این ماه در کنفرانس مرکز اتوماسیون اداری و فناوری اطلاعات و ارتباط از راه دور در هانوور آلمان توصیف شد، پژوهشگران قادر می‌سازد تا  تعداد ورودی‌های منفرد، مانند پیکسل‌های یک تصویر، که با نتیجه کل همکاری می‌کنند را اندازه‌گیری کنند. سپس پیکسل‌ها و نواحی نمره عددی برای اهمیت‌شان دریافت می کنند. با این اطلاعات، پژوهشگران می‌توانند تجسم‌هایی را ایجاد کنند که به ماسک یا الگوی روی این تصویر نفوذ کند. جایی که پیکسل‌ها مهم‌ هستند ماسک روشن‌تر،  و در نواحی که تاثیر کمی روی خروجی شبکه عصبی دارد تاریک‌تر است.

برای مثال، این نرم‌افزار برای دو شبکه عصبی آموزش دیده برای شناسایی اسب‌ها استفاده شده بود. یک شبکه عصبی از شکل بدن برای تعیین کردن اینکه آیا آن اسب است یا خیر استفاده می‌کرد. و دیگری نشانه‌‌های کپی‌رایت در تصاویری که مرتبط با وبسایت‌های انجمن و سازمان‌های اسب بودند را نگاه می‌کرد.

اسمِک اشاره کرد که این کار می‌تواند شبکه‌های عبی را بهبود دهد. برای مثال می‌تواند  مقدار داده‌ مورد نیاز را با تمرکز بر آنچه که شبکه‌های عصبی نیاز دارند کاهش دهد. این موضوع یکی از بزرگترین چالش‌ها در هوش مصنوعی است. این همچنین می‌تواند به بررسی خطاهایی که در نتایج رخ می‌دهند، مانند بد دسته‌بندی کردن اشیا در یک تصویر کمک کند.

پژوهشگران دیگر روی فرآیندهای مشابهی برای دیدن اینکه الگوریتم‌ها چگونه تصمیم می‌گیرند کار می‌کنند. سارا واتسون، منتقد فناوری در مرکز برکمن کلین برای اینترنت و جامعه دانشگاه هاروارد در این رابطه می‌گوید، ادامه تحقیقات همچنان که این الگوریتم‌ها بیشتر به زندگی روزمره ما وارد می‌شوند مهم است. مردم به ابزارهایی نیاز دارند که بتوانند بفهمند چگونه هوش مصنوعی تصمیم می‌گیرد. داوری در مورد درست بودن ین الگوریتم‌ها کاری بسیار بیشتر از تنها بررسی داده‌هایی که به آنها داده‌ایم است.

در یکی از برنامه‌های رسوا شونده‌ای از استفاده از شبکه‌ عصبی، گوگل زنان سیاه‌پوست در برنامه تصویرش به عنوان گوریل شناسایی و تگ کرد. حتی تبعیض‌های جدی‌تر وجود داشته است. نرم‌افزاری مبتنی بر شکبه عصبی برای دادگاه برای تعیین احتمال مجرم بودن یک شخص تهیه شد، مطالعه‌ای نشان داد که افراد سیاهپوست نسبت به افراد سفید پوست برای جنایت‌های مشابه نمرات خطر بالاتری از این نرم‌افزار دریافت می‌کنند.  واتسان می‌گوید، «چنین مواردی اهیمیت ساخت چنین ماشین‌هایی را کم می‌کند و نهادهایی که آنه را به کار گرفته‌اند بایستی جوابگوی خروجی آنها باشند.»

دیدگاه‌تان را بنویسید: