مایکروسافت برای افزایش شفافیت و عدالت در مورد روند آموزش مدلهای هوش مصنوعی ، یک پروژه تحقیقاتی با عنوان “Provence for Training” منتشر کرده است.
منشأ زمان آموزشی چیست؟
پروژه تحقیقاتی مایکروسافت با هدف تجزیه و تحلیل تأثیر منابع داده های فردی (به عنوان مثال ، مجموعه ای از محتوای عکس یا متن) که برای آموزش مدلهای هوش مصنوعی استفاده می شود. این رویکرد مبتنی بر فناوری است که می توان آن را “تجزیه و تحلیل سهم داده” نامید. مدل های هوش مصنوعی اغلب در تعداد زیادی از مجموعه داده های مختلف آموزش می بینند و هر یک از این داده ها در مورد مدل معمولاً نامشخص است. سیستم مایکروسافت با روش های ریاضی توسعه داده شده و تجزیه و تحلیل می کند که بخشی از داده های خاص به خروجی هوش مصنوعی کمک می کند.
حقوق همکاران داده Jaron Lanier ، یکی از نام های تیم تحقیقاتی مایکروسافت ، بر مفهوم “پایگاه داده” اساسی تأکید کرد. به گفته لانیر ، کسانی که به سهم داده ها در موفقیت مدلهای هوش مصنوعی کمک می کنند ، در صورت لزوم باید شناخته شوند و پاداش بگیرند. به عنوان مثال ، هنگامی که یک مدل هوش مصنوعی تصویری را ایجاد می کند با الهام از یک اثر هنری ، خالق اثر اصلی ممکن است به دلیل سهم آنها یا یک سیستم مبتنی بر سیستم مفید شناخته شود. جزئیات فناوری این سیستم توسط مایکروسافت بر اساس الگوریتم های نظارت برای اندازه گیری اثربخشی مدلهای هوش مصنوعی مورد استفاده در فرآیند آموزش برای خروجی توسعه یافته است. با تشکر از این الگوریتم ها ، نقش منابع داده در خروجی هوش مصنوعی مورد تجزیه و تحلیل قرار می گیرد و مشخص می شود که کدام داده ها در مدل مؤثر است. علاوه بر این ، با ابزارهای گزارشگر شفاف ، کاربران مجاز به مشاهده تأثیر داده ها هستند و از این اطلاعات می توان به عنوان یک مرجع اساسی در پرداخت حق چاپ یا فرآیند شناسایی استفاده کرد. رتبه بندی سیستم مؤثر منابع داده برای مدل و ایجاد یک پاداش یا مکانیسم شناسایی عادلانه. مقیاس حقوقی و اخلاقی این رویکرد خلاق به ویژه در زمینه دادخواستهای حق چاپ علیه شرکتهای اطلاعاتی مصنوعی و مباحث اخلاقی بسیار مهم است. مایکروسافت می گوید این سیستم با هدف افزایش استانداردهای اخلاقی در فن آوری های هوش مصنوعی و حل مسائل حقوقی انجام شده است. حرکت مایکروسافت توانایی ایجاد نظم عادلانه تر و شفاف تر را در اکوسیستم هوش مصنوعی دارد. آگاهی و مفید برای مواد افزودنی داده های آموزشی نه تنها برای سازندگان انفرادی ، بلکه برای جوامع و سازمان ها نیز می تواند داده های بزرگی را ایجاد کند. این پروژه یک گام مهم برای توسعه اخلاقی و مسئولیت بیشتر در مورد هوش مصنوعی محسوب می شود. این رویکرد مایکروسافت می تواند نمونه ای برای سایر شرکت های در زمینه فناوری باشد.