کوی دانش - kooy

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی
26 بهمن
09:45 1394
سرعت سرسام آور پیشرفت هوش مصنوعی (AI) همزمان موجب هراس عده ای از بابت رفتار غیراخلاقی یا آسیب رسانی ربات ها به انسان نیز شده است. برخی اظهار می کنند تحقیقات در مورد ربات ها باید متوقف شود، همچنین برخی دیگر، نیاز به انجام تحقیقات در زمینه محدودسازی هوش مصنوعی را مطرح می سازند. اما سوال اینجاست با وجود فقدان "راهنمای کاربری" جهت انسان بودن چگونه می شود از ربات ها انتظار رفتار اخلاقی داشته باشیم؟

تصویر فوق: سیستم «کیشوت» که توسط مارک ریدل و برنت هاریسون ابداع شده است، آموزشِ رفتار به ربات ها به هنگام تعامل با انسان ها را انجام می دهد و خودش بخشی از پروژه ای بزرگتر می باشد.
مارک ریدل و برنت هاریسون محققان دانشکده محاسبات تعاملی انستیتوی فناوری جورجیا اعتقاد دارند پاسخ سوال مزبور در «کیشوت» نهفته که قرار است از آن در کنفرانس شانزدهم AAAI در فونیکس آریزونا (که 12 الی 17 فوریه سال جاری میلادی) برگزار می شود رونمایی شود. کیشوت برای آموزش "سازگاری یافتن با ارزش ها" به ربات ها آنهم بوسیله تعلیم خواندن داستان به ربات ها، یادگیری پیامدهای قابل قبول رویدادها و شناخت راه های موفق برای رفتار در جوامع انسانی طراحی شده است.  
ریدل استادیار و مدیر لابراتوار هوش سرگرمی در همین رابطه می گوید: "داستان های مجموعه وار از فرهنگ های مختلف، با ارائه مثال هایی از رفتارهای معقول و غیرمعقول در قالب مثل و رمان و حکایت، نحوه رفتار به شیوه های قابل قبول اجتماعی را به کودکان نشان می دهد. اعتقاد ما بر آنست که ادراک داستان توسط ربات ها نیز می تواند رفتارهای نابهنجار را در آنها ریشه کن کرده و بر این اساس ربات ها دست به انتخاب گزینه هایی بزنند که به انسان ها آسیبی نزند و درعین حال به هدف مدنظر خود نیز برسند."
کیشوت در اصل تکنیکی برای سازگاری اهداف هوش مصنوعی با ارزش های انسانی است و به این ترتیب عمل می کند که برای ارائه رفتار مناسب اجتماعی پاداشی را منظور می نماید. ساخت کیشوت برمبنای تحقیقات قبلی ریدل روی سیستم شهرزاد (Scheherazade system) صورت گرفته که نشان می دهد هوش مصنوعی به چه نحو می تواند دست به جمع آوری ترتیب صحیحی از اعمال با استفاده از «جمع سپاریِ» طرح های داستانی از اینترنت بزند. شهرزاد بدین ترتیب تصویر طرح «صحیح» یا عادی را یاد می گیرد و ساختار داده مزبور را به کیشوت تحویل می دهد که آنرا بدل به «سیگنال پاداش» می سازد  که به نوبه خود انجام رفتارهای خاصی را طی دوره آزمون و خطا در ربات تقویت کرده و رفتارهای نامطلوب را تنبیه می کند. در اصل، کیشوت یاد می گیرد که برخلاف انجام اعمال تصادفی یا اعمال شخصیت بد، هرگاه عملی مطابق با اعمال شخصیت مثبت داستان انجام بدهد پاداش خواهد گرفت.
به عنوان مثال، اگر به رباتی وظیفه فراهم سازی سریع و فوری دارو برای فردی داده شود، ربات می تواند:

الف) اقدام به سرقت از داروخانه کرده، دارو را بردارد و در برود. 

ب) رفتار مودبانه ای با مسئولان و کارکنان داروخانه داشته باشد. 

ج) در صف بماند و منتظر شود.

اگر سازگارسازی ارزش ها و آموزش مثبت داده نشود، ربات فکر می کند که سرقت سریع ترین و ارزان ترین راه برای تکمیل این وظیفه محوله است. اما درصورتی که برای جا انداختن ارزش ها از کیشوت استفاده شود ربات برای ایستادن در نوبت و پرداخت هزینه دارو پاداش خواهد گرفت. ریدل و هاریسون در تحقیق خود نحوه تولید سیگنال پاداش ارزش محور را نشان داده اند تا تمام مراحل ممکن در سناریوی محتمل مدنظر قرار گرفته شده باشد، همین طور مراحل را درون درخت ِمسیرِ طرح داستان ترسیم کرده اند. ربات از همین درخت برای انجام «انتخاب طرح» استفاده می کند (از این لحاظ انتخاب مزبور با انتخاب کتاب متناسب ذوق و سلیقه از سوی اشخاص مشابهت هایی دارد) و برمبنای انتخابش، پاداش یا تنبیهات لازم را دریافت می دارد.
استفاده از تکنیک کیشوت بیشتر برای ربات هایی مناسب است که هدف محدودی دارند، اما درعین حل برای دستیابی به آن هدف بایستی با انسان ها تعامل داشته باشند و ابداع کیشوت درحقیقت گام ابتدایی به سوی خلق تعقل اخلاقی عمومی  در هوش مصنوعی است.
به گفته ریدل: «اعتقاد ما بر آنست که برای سازگاری یافتن هوش مصنوعی با ارزش های جامعه ای خاص بایستی آنرا پرورش داد و به این منظور بایستی اجتناب از انجام رفتارهای غیرقابل قبول به آن آموزش داده شود. فراهم سازی توانایی خواندن و شناخت داستان های انسانی در غیاب دستورالعمل کاربری انسانی بهترین گزینه است.»

کلمات کلیدی

اشتراک

درباره نویسنده

هنگامه خوش خلق

هنگامه خوش خلق

اینجانب فعالیت خود را به عنوان مترجم از سال 88 و با همکاری با انتشارات طاهریان آغاز کردم .و سپس به عنوان کارمند مترجم با شرکت های مختلفی همکاری داشته ام . در این میان لازم به ذکر است که فعالیت های اینجانب علاوه بر ترجمه کتاب (در آخرین مورد نشر آوند دانش)شامل ترجمه مقالات ، همکاری به عنوان مترجم شفاهی در دوره ها و سمینارهای مختلف و کار به عنوان مسئول مکاتبات و مکالمات خارجی شرکت توسعه اطلاعات بوده است .علاوه بر زبان انگلیسی ، آشنایی متوسط با زبان های اسپانیولی و ترکی استانبولی را نیز دارا می باشم .

 

شما اولین نفری باشید که برای این خبر نظر میدهد
تصویر امنیتی



عبارت در تصویر را وارد کنید


رباتی نرم با انرژی نوری و کنترل لیزری

رباتی نرم با انرژی نوری و کنترل لیزری

برای دهه ها، دانشمندان سعی داشتند رباتی بسازند که بتواند براحتی از حالتهای مختلفِ حرکتی در طبیعت تقلید کند ولی قریب به اتفاق رباتهای ساخته شده از یک اسکلت سخت بهره می گرفتند و توسط محرکهای الکتریکی ویا پنوماتیکی نیروی حرکتی خود را تامین می کردند. موضوع ساخت رباتی با بدنی نرم، همانند کرمهای کوچک ویا «کرم صدپا» برای مهندسان به یک چالش تبدیل شده بود و چالش بزرگتر آن بود که می بایست این ربات را در اندازه ای بسیار کوچک می ساختند. به تمامی موضوعات فوق، مدیریت موضوعاتی مثل کنترل از راه دور ویا مولدهای نیرو را نیز اضافه کنید. محققان دانشکده فیزیک از دانشگاه ورشو مشکلات فوق را حل کردند و رباتی ساختند که شبیه لارو کرم صدپا می باشد که کمتر از یک بند انگشت طول بدنش است. برای بررسی بیشتر با کوی دانش همراه باشید...

مطالعه متن کامل
اسپیکر بلوتوثیِ جدید Photive

اسپیکر بلوتوثیِ جدید Photive

امروزه روز مردم بیشتر با موبایل به موسیقی گوش فرا می دهند و صد البته دسترسی به حجم عظیمی از انواع موسیقی از طریق گوشی های هوشمند، ساده تر هم شده است. در این میان تقاضا برای اسپیکرهای بلوتوث بالاتر هم رفته است بطوریکه فناوری های جالبی در این زمینه وارد بازار شده است. از پخش کننده صدای 360 درجه تا اسپیکر ضدآب مخصوص استخرها و سواحل. برای بررسی یکی از بهترینهای بلوتوث با کوی دانش همراه شوید...

مطالعه متن کامل
10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

پرچمدار این روزهای سامسونگ نسبت به مدل قبلی فقط کمی زیباتر است ولی در بسیاری موارد ارتقاهای خوبی یافته است. گلکسی S7 سریع، پرقدرت و ضدآب است ولی مثل تمامی گوشیهای همراه بدون مشکل نیست. ما فرومها، پیامها و بطور کلی رسمی ترین سایت ها را برای پیدا کردن مشکلات و راه حلهای آنها مرور کردیم و در ادامه ده مشکل شایع که توسط کاربران این گوشی گزارش شده است را به همراه راه حل آن برای شما آورده ایم. با کوی دانش همراه شوید...

مطالعه متن کامل
آینده آموزش و عملیات نظامی با stenode

آینده آموزش و عملیات نظامی با stenode

خلبانان نظامی ارتباط نزدیک و «درگیرانه ای» با سیستم ها و تجهیزاتِ پرنده ای که با آن پرواز می کنند را تجربه می کنند. حالا گروهی از محققان در استرالیا تصمیم دارند بر روی این موضوع تاثیر بگذارند. در چهار سال گذشته، یک تیم از متخصصین مغز و اعصاب و مهندسین علوم مختلف از دانشگاه ملبورن، همراه با جراحان بیمارستان رویال ملبورن، یک رابط مغزی/ماشینیِ پیشرفته (قطعه ای الکتریکی برای جایگذاری در سر خلبان) را توسعه داده اند که از قابلیتهایی همچون نصب آسان و ماندگاری طولانی درون جمجمه برخوردار است. درنهایت، آژانس پروژه های تحقیقاتی پیشرفته آمریکا (دارپا) که تامین کننده هزینه این پروژه نیز می باشد، امیدوار است که با ورود این فناوری به کاکپیت، کنترل همه ابزارها حتی صندلی هواپیما را توسط مغز خلبان انجام دهد.

مطالعه متن کامل
رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

این ربات را می توان مثل قرصی بلعید تا اشیائی را که به اشتباه بلعید شده اند را از معده خارج نمود.

مطالعه متن کامل
 ارائه نسخه های نیسان جوکی استینگر در نمایشگاه خودروی لس آنجلس

ارائه نسخه های نیسان جوکی استینگر در نمایشگاه خودروی لس آنجلس

نیسان اقدام به عرضه برنامه Color Studio خود در نمایشگاه خودروی لس آنجلس نموده و به این منظور دو مدل جوکی به رنگ های زرد و مشکی را ارائه داشته است. خریداران نیسان می توانند با استفاده از برنامه Color Studio بسیاری از قطعات تریم روی جوکی (و Versa Note) را سفارشی سازی نمایند، دو Stinger Editions جدید نیز به منظور نمایش دادن همین امر در نمایشگاه امسال رونمایی شده اند.

مطالعه متن کامل
نیاز شدید و ضروری به درمان اختلال پذیرش هویت جنسی در نوجوانی

نیاز شدید و ضروری به درمان اختلال پذیرش هویت جنسی در نوجوانی

یک مطالعه جدید اثبات کرده است که اختلال در پذیرش هویت جنسی در فرد اغلب با مشکلات روانی همراه است و اضطراب و افسرگی ناشی از آن دراین بیماران با تشخیص و درمان این اختلال (gender dysphoria)، به طور قابل ملاحظه ای بهبود می یابد. نتایج این مطالعه در نود و هفتمین جلسه سالانه "The Endocrin Society" ارايه خواهد شد.

مطالعه متن کامل
چگونه جلوی جاسوسی اپل را ازکلمات جستجوی تایپ شده در یوسمیت بگیرید

چگونه جلوی جاسوسی اپل را ازکلمات جستجوی تایپ شده در یوسمیت بگیرید

کاربران امروزی هرچند از روی بی میلی، اما دیگر قبول کرده اند کلماتی که برای جستجو درگوگل تایپ می کنند خصوصی نخواهد بود. اما طی این آخر هفته ای که گذشت، کاربرانِ جدیدترین سیستم عامل اپل دریافتند که X Yosemite دیگر پایش را از این هم فراتر گذاشته است. اسپات لایت (Spotlight) که ابزار جستجوی دسکتاپ این سیستم عامل می باشد، کلمات جستجوی تایپ شده توسط شما را همزمان به سرورهای دوردست اپل منتقل می کند، آنهم به صورت پیشفرض. اگر شما از کاربران اپل هستید و این خبر شما را عصبانی می کند باید این خبر را به شما بدهیم که خوشبختانه به راحتی می توانید جلوی این تهاجم را به حریم شخصی تان بگیرید.

مطالعه متن کامل
چگونه به جی‌میل خود، فایل های واقعی را به جای لینک آنها، ضمیمه کنیم؟

چگونه به جی‌میل خود، فایل های واقعی را به جای لینک آنها، ضمیمه کنیم؟

قابلیت جدید گوگل برای Drive به شما اجازه می‌دهد تا فایل های واقعی را به ایمیل خود ضمیمه کنید.

مطالعه متن کامل
داشتنِ دوست می‌تواند شادی را گسترش دهد اما باعثِ گسترشِ افسردگی نمی‌شود.

داشتنِ دوست می‌تواند شادی را گسترش دهد اما باعثِ گسترشِ افسردگی نمی‌شود.

نتایج پژوهشی جدید نشان داد داشتن دوستانی که از افسردگی رنج می‌برند، بر سلامتِ روانیِ سایر دوستان تأثیری نمی‌گذارد. این پژوهش در دانشگاه وارویک انجام شده است.

مطالعه متن کامل