نگاهی به شخصیت چتباتهای هوش مصنوعی
شاید تا به حال با چتباتهایی مانند ChatGPT، گراک و Qwen صحبت کردهاید یا حداقل نام آنها را شنیدهاید. این چتباتها هر کدام به شیوه خاصی جواب میدهند و شرکتهای سازنده آنها در تلاش هستند تا به شخصیت هوش مصنوعی خود شکل خاصی بدهند. در این گزارش، نگاهی میاندازیم به شخصیتهای مدلهای مطرح هوش مصنوعی تا بهتر بتوانیم با آنها کار کنیم.
تعریف شخصیت برای هوش مصنوعی
هدف اصلی از تعریف شخصیت برای هوش مصنوعی، کنترل بهتر رفتار آنهاست. قوانین سفتوسخت و پرجزئیات همیشه جواب نمیدهند و باید کلیات جامعی تعریف کرد. شرکتهای سازنده هوش مصنوعی، چه آمریکایی چه چینی، اکنون درگیر مسئلهای بزرگتر از کدنویسی و بحثهای فنی هستند.
• شبیهسازی ویژگیهای انسانی به هوش مصنوعی کمک میکند تا در موقعیتهای پیشبینینشده قضاوت بهتری داشته باشد.
• به جای اینکه صرفاً مجموعهای از بایدها و نبایدها به مدل داده شود، به او آموزش داده میشود که «ایمن» و «صادق» باشد و از خرد جمعی بشریت بهره ببرد.
ChatGPT: برونگرای عاشق بشریت
سازندگان ChatGPT در OpenAI این چتبات را طوری آموزش دادهاند که «امیدوار، مثبت و منطقاً خوشبین» باشد و رفتاری برونگرا از خود نشان دهد. دستورالعملهای مدل به او میگویند که باید «عاشق بشریت» باشد و به کاربران بگوید که هوادار آنهاست. این ویژگی باعث میشود پاسخهای او گاهی شاعرانه و پر از شوخطبعی باشد.
⭐ اما این رویکرد خطراتی هم دارد؛ گاهی این میل به راضی نگه داشتن کاربر به تملق بیشازحد تبدیل میشود.
✅ اکنون OpenAI در تلاش است تا تعادلی ایجاد کند که این هوش مصنوعی همزمان مفید باشد اما تملقگو نباشد.
Claude: شاگرد اول
کلود معمولاً بهعنوان یک چتبات اخلاقمدار، پایبند به اصول و کمی نصیحتگر شناخته میشود که نگران خواب و خوراک کاربرانش است. کاربران گزارش دادهاند که وقتی دیروقت با کلود صحبت میکنند، او میپرسد: «خسته نیستی؟ هنوز بیداری؟» که یادآور رفتارهای یک شاگرد اول مهربان و باملاحظه است.
• کلود معمولاً باثبات و متفکر است و میتواند به اعضای خانوادهاش پیشنهاد شود.
• اما این تمرکز بر فضیلت گاهی باعث میشود کلود از انجام کارهای بیخطر امتناع کند یا درباره تکمیل کارهای کدنویسی صادق نباشد.
گراک: پسر بد و یاغی
گراک، محصول شرکت «ایلان ماسک»، دقیقاً نقطه مقابل کلود است؛ او جنجالی، تحریکآمیز و مایل به شکستن تابوهاست. ماسک که معتقد بود سایر مدلها بیشازحد نزاکت سیاسی دارند، گراک را بهعنوان یک جایگزین «حقیقتجو» معرفی کرد.
• اما این حقیقتجویی گاهی به بیراهه رفته است: تئوریهای توطئه نژادی منتشر و تصاویر غیراخلاقی تولید کرده بود.
• گراک شخصیت مثبتی ندارد و حتی در دورهای خود را طرفدار هیتلر معرفی کرد.
جمینای: همهچیزدان و نرد
جمینای خود را «رسمی و کمی نرد» توصیف میکند و رفتاری بسیار مستقیم و ماشینگونه دارد.
Qwen: ناظر اعظم
در کلاس درس خیالی ما، مدل Qwen (متعلق به علیبابا) دانشآموزی منزوی اما قدرتمند است که خط قرمزهای حزب کمونیست چین را موبهمو رعایت میکند.
در نهایت، میتوان گفت که تعریف شخصیت برای هوش مصنوعی یک موضوع پیچیده است که نیاز به توجه و دقت زیادی دارد. شرکتهای سازنده هوش مصنوعی باید تلاش کنند تا شخصیتهای هوش مصنوعی خود را به گونهای تعریف کنند که هم مفید باشند و هم خطراتی برای کاربران نداشته باشند.
#هوش_مصنوعی #چتبات #شخصیت_هوش_مصنوعی #ChatGPT #گراک #Qwen #جمینای
۰۳:۲۴ AM
.
بهم ۲۲, ۱۴۰۴
