پنج واقعیت در مورد نحوه عملکرد چت ربات های هوش مصنوعی

چت ربات‌های هوش مصنوعی به بخشی از زندگی روزانه میلیون‌ها نفر تبدیل شده‌اند، اما تعداد کمی حتی نحوه عملکرد آن‌ها را درک می‌کنند. پورتال theconversation.com به اشتراک گذاشته شده است پنج واقعیت در مورد چگونگی عملکرد هوش مصنوعی و نحوه بهترین استفاده از آنها.

ربات از پاسخ های مردم یاد می گیرد

چت ربات های هوش مصنوعی در چند مرحله آموزش داده می شوند و مرحله اول پیش آموزش است که در آن مدل ها یاد می گیرند کلمات بعدی را در حجم زیادی از متن پیش بینی کنند. این فرآیند به آنها اجازه می دهد تا به درک مشترکی از زبان، حقایق و منطق دست یابند.

اگر از یک مدل از پیش آموزش‌دیده سؤالی بپرسید، می‌تواند به راحتی دستورالعمل‌های مفصلی را ارائه دهد – حتی اگر کاربر چیزی مشکوک بپرسد. برای اینکه هوش مصنوعی برای انسان مفید و ایمن باشد، حاشیه‌نویس‌ها به هدایت پاسخ‌های مدل در جهت مؤثرتری کمک می‌کنند – مرحله‌ای به نام «تطبیق».

پس از این مدت، هوش مصنوعی می تواند با استناد به قانون یا سایر منابع اطلاعاتی قابل اعتماد، از پاسخ دادن به هرگونه سؤال مخرب خودداری کند. بدون سفارشی سازی اضافی، چت بات ها غیرقابل پیش بینی خواهند بود: هیچ چیز مانع از انتشار اطلاعات نادرست یا محتوای مضر آن ها نخواهد شد.

ربات ها نه از طریق کلمات بلکه از طریق نشانه ها یاد می گیرند

انسان ها به طور طبیعی زبان را از طریق کلمات یاد می گیرند، اما هوش مصنوعی از واحدهای کوچکی از داده ها به نام توکن برای این منظور استفاده می کند. آنها می توانند کلمات، زیرکلمه ها یا حتی فقط رشته هایی از حروف باشند. و در حالی که فرآیند رمزگذاری اغلب از الگوهای منطقی پیروی می کند، گاهی اوقات نتایج غیرمنتظره ای ایجاد می کند که هم نقاط قوت و هم ضعف توانایی هوش مصنوعی در تفسیر زبان را نشان می دهد. برای زمینه، چت ربات های مدرن معمولاً دارای واژگانی از 50000 تا 100000 توکن هستند.

دانش در مورد ربات ها هر روز منسوخ می شود

چت ربات‌های هوش مصنوعی به‌طور مداوم خودشان را به‌روزرسانی نمی‌کنند، که پاسخگویی به سؤالات مربوط به رویدادهای اخیر، شرایط جدید و اطلاعات غیر از تاریخ انقضا یا آخرین تاریخ به‌روزرسانی پایگاه داده آموزشی را برای آنها دشوار می‌کند.

به عنوان مثال، نسخه فعلی ChatGPT تا ژوئن 2024 مهلت دارد. اگر بپرسید رئیس جمهور فعلی یک کشور خاص کیست، خود هوش مصنوعی باید به موتور جستجو رفته، نتایج را “بخواند” و بر اساس آنها پاسخ دهد. بسیاری از هوش مصنوعی های دیگر نیز از موتورهای جستجو برای اطمینان از به روز بودن پاسخ هایشان استفاده می کنند. به روز رسانی چت ربات های هوش مصنوعی فرآیندی پیچیده و پرهزینه است. بهبود اثربخشی به‌روزرسانی‌ها همچنان یک مشکل علمی باز است.

ربات ها مستعد توهم هستند

چت ربات‌های هوش مصنوعی گاهی اوقات از «توهم» رنج می‌برند – به این معنی که نتایج نادرستی تولید می‌کنند یا به سادگی با اطمینان کامل از دقت خود آن‌ها را می‌سازند، زیرا مدل بدون بررسی حقایق، متن را بر اساس الگوها پیش‌بینی می‌کند. چنین خطاهایی نتیجه ساختار داخلی هوش مصنوعی است. آنها انسجام را بر دقت اولویت می دهند، بر داده های آموزشی ناقص تکیه می کنند و کاملاً درک درستی از دنیای واقعی ندارند. در حالی که ChatGPT بهبودهایی را دریافت کرده است، مانند ابزار بررسی واقعیت و امکان درخواست مستقیم از ربات برای استناد به منابع قابل اعتماد، هیچ ترفندی وجود ندارد که بتواند در وهله اول از این توهم جلوگیری کند.

ربات ها با استفاده از کامپیوتر ریاضی انجام می دهند

اخیراً برخی از چت بات ها به اصطلاح تغییر کرده اند. یک مدل استدلال منطقی که به آنها اجازه می دهد تا یک مسئله را به اجزای جداگانه تجزیه کنند تا یک مشکل پیچیده را حل کنند. به عنوان مثال، اگر از ChatGPT بپرسید “56345 منهای 7865 ضرب در 350468 چیست”، هوش مصنوعی پاسخ صحیح را می دهد زیرا “می فهمد” که ضرب قبل از تفریق است. و برای انجام محاسبات، ربات از یک ماشین حساب داخلی استفاده می کند که به شما امکان می دهد به نتایج دقیق برسید.