کوی دانش - kooy

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی
26 بهمن
09:45 1394
سرعت سرسام آور پیشرفت هوش مصنوعی (AI) همزمان موجب هراس عده ای از بابت رفتار غیراخلاقی یا آسیب رسانی ربات ها به انسان نیز شده است. برخی اظهار می کنند تحقیقات در مورد ربات ها باید متوقف شود، همچنین برخی دیگر، نیاز به انجام تحقیقات در زمینه محدودسازی هوش مصنوعی را مطرح می سازند. اما سوال اینجاست با وجود فقدان "راهنمای کاربری" جهت انسان بودن چگونه می شود از ربات ها انتظار رفتار اخلاقی داشته باشیم؟

تصویر فوق: سیستم «کیشوت» که توسط مارک ریدل و برنت هاریسون ابداع شده است، آموزشِ رفتار به ربات ها به هنگام تعامل با انسان ها را انجام می دهد و خودش بخشی از پروژه ای بزرگتر می باشد.
مارک ریدل و برنت هاریسون محققان دانشکده محاسبات تعاملی انستیتوی فناوری جورجیا اعتقاد دارند پاسخ سوال مزبور در «کیشوت» نهفته که قرار است از آن در کنفرانس شانزدهم AAAI در فونیکس آریزونا (که 12 الی 17 فوریه سال جاری میلادی) برگزار می شود رونمایی شود. کیشوت برای آموزش "سازگاری یافتن با ارزش ها" به ربات ها آنهم بوسیله تعلیم خواندن داستان به ربات ها، یادگیری پیامدهای قابل قبول رویدادها و شناخت راه های موفق برای رفتار در جوامع انسانی طراحی شده است.  
ریدل استادیار و مدیر لابراتوار هوش سرگرمی در همین رابطه می گوید: "داستان های مجموعه وار از فرهنگ های مختلف، با ارائه مثال هایی از رفتارهای معقول و غیرمعقول در قالب مثل و رمان و حکایت، نحوه رفتار به شیوه های قابل قبول اجتماعی را به کودکان نشان می دهد. اعتقاد ما بر آنست که ادراک داستان توسط ربات ها نیز می تواند رفتارهای نابهنجار را در آنها ریشه کن کرده و بر این اساس ربات ها دست به انتخاب گزینه هایی بزنند که به انسان ها آسیبی نزند و درعین حال به هدف مدنظر خود نیز برسند."
کیشوت در اصل تکنیکی برای سازگاری اهداف هوش مصنوعی با ارزش های انسانی است و به این ترتیب عمل می کند که برای ارائه رفتار مناسب اجتماعی پاداشی را منظور می نماید. ساخت کیشوت برمبنای تحقیقات قبلی ریدل روی سیستم شهرزاد (Scheherazade system) صورت گرفته که نشان می دهد هوش مصنوعی به چه نحو می تواند دست به جمع آوری ترتیب صحیحی از اعمال با استفاده از «جمع سپاریِ» طرح های داستانی از اینترنت بزند. شهرزاد بدین ترتیب تصویر طرح «صحیح» یا عادی را یاد می گیرد و ساختار داده مزبور را به کیشوت تحویل می دهد که آنرا بدل به «سیگنال پاداش» می سازد  که به نوبه خود انجام رفتارهای خاصی را طی دوره آزمون و خطا در ربات تقویت کرده و رفتارهای نامطلوب را تنبیه می کند. در اصل، کیشوت یاد می گیرد که برخلاف انجام اعمال تصادفی یا اعمال شخصیت بد، هرگاه عملی مطابق با اعمال شخصیت مثبت داستان انجام بدهد پاداش خواهد گرفت.
به عنوان مثال، اگر به رباتی وظیفه فراهم سازی سریع و فوری دارو برای فردی داده شود، ربات می تواند:

الف) اقدام به سرقت از داروخانه کرده، دارو را بردارد و در برود. 

ب) رفتار مودبانه ای با مسئولان و کارکنان داروخانه داشته باشد. 

ج) در صف بماند و منتظر شود.

اگر سازگارسازی ارزش ها و آموزش مثبت داده نشود، ربات فکر می کند که سرقت سریع ترین و ارزان ترین راه برای تکمیل این وظیفه محوله است. اما درصورتی که برای جا انداختن ارزش ها از کیشوت استفاده شود ربات برای ایستادن در نوبت و پرداخت هزینه دارو پاداش خواهد گرفت. ریدل و هاریسون در تحقیق خود نحوه تولید سیگنال پاداش ارزش محور را نشان داده اند تا تمام مراحل ممکن در سناریوی محتمل مدنظر قرار گرفته شده باشد، همین طور مراحل را درون درخت ِمسیرِ طرح داستان ترسیم کرده اند. ربات از همین درخت برای انجام «انتخاب طرح» استفاده می کند (از این لحاظ انتخاب مزبور با انتخاب کتاب متناسب ذوق و سلیقه از سوی اشخاص مشابهت هایی دارد) و برمبنای انتخابش، پاداش یا تنبیهات لازم را دریافت می دارد.
استفاده از تکنیک کیشوت بیشتر برای ربات هایی مناسب است که هدف محدودی دارند، اما درعین حل برای دستیابی به آن هدف بایستی با انسان ها تعامل داشته باشند و ابداع کیشوت درحقیقت گام ابتدایی به سوی خلق تعقل اخلاقی عمومی  در هوش مصنوعی است.
به گفته ریدل: «اعتقاد ما بر آنست که برای سازگاری یافتن هوش مصنوعی با ارزش های جامعه ای خاص بایستی آنرا پرورش داد و به این منظور بایستی اجتناب از انجام رفتارهای غیرقابل قبول به آن آموزش داده شود. فراهم سازی توانایی خواندن و شناخت داستان های انسانی در غیاب دستورالعمل کاربری انسانی بهترین گزینه است.»

کلمات کلیدی

اشتراک

درباره نویسنده

هنگامه خوش خلق

هنگامه خوش خلق

اینجانب فعالیت خود را به عنوان مترجم از سال 88 و با همکاری با انتشارات طاهریان آغاز کردم .و سپس به عنوان کارمند مترجم با شرکت های مختلفی همکاری داشته ام . در این میان لازم به ذکر است که فعالیت های اینجانب علاوه بر ترجمه کتاب (در آخرین مورد نشر آوند دانش)شامل ترجمه مقالات ، همکاری به عنوان مترجم شفاهی در دوره ها و سمینارهای مختلف و کار به عنوان مسئول مکاتبات و مکالمات خارجی شرکت توسعه اطلاعات بوده است .علاوه بر زبان انگلیسی ، آشنایی متوسط با زبان های اسپانیولی و ترکی استانبولی را نیز دارا می باشم .

 

شما اولین نفری باشید که برای این خبر نظر میدهد
تصویر امنیتی



عبارت در تصویر را وارد کنید


رباتی نرم با انرژی نوری و کنترل لیزری

رباتی نرم با انرژی نوری و کنترل لیزری

برای دهه ها، دانشمندان سعی داشتند رباتی بسازند که بتواند براحتی از حالتهای مختلفِ حرکتی در طبیعت تقلید کند ولی قریب به اتفاق رباتهای ساخته شده از یک اسکلت سخت بهره می گرفتند و توسط محرکهای الکتریکی ویا پنوماتیکی نیروی حرکتی خود را تامین می کردند. موضوع ساخت رباتی با بدنی نرم، همانند کرمهای کوچک ویا «کرم صدپا» برای مهندسان به یک چالش تبدیل شده بود و چالش بزرگتر آن بود که می بایست این ربات را در اندازه ای بسیار کوچک می ساختند. به تمامی موضوعات فوق، مدیریت موضوعاتی مثل کنترل از راه دور ویا مولدهای نیرو را نیز اضافه کنید. محققان دانشکده فیزیک از دانشگاه ورشو مشکلات فوق را حل کردند و رباتی ساختند که شبیه لارو کرم صدپا می باشد که کمتر از یک بند انگشت طول بدنش است. برای بررسی بیشتر با کوی دانش همراه باشید...

مطالعه متن کامل
اسپیکر بلوتوثیِ جدید Photive

اسپیکر بلوتوثیِ جدید Photive

امروزه روز مردم بیشتر با موبایل به موسیقی گوش فرا می دهند و صد البته دسترسی به حجم عظیمی از انواع موسیقی از طریق گوشی های هوشمند، ساده تر هم شده است. در این میان تقاضا برای اسپیکرهای بلوتوث بالاتر هم رفته است بطوریکه فناوری های جالبی در این زمینه وارد بازار شده است. از پخش کننده صدای 360 درجه تا اسپیکر ضدآب مخصوص استخرها و سواحل. برای بررسی یکی از بهترینهای بلوتوث با کوی دانش همراه شوید...

مطالعه متن کامل
10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

پرچمدار این روزهای سامسونگ نسبت به مدل قبلی فقط کمی زیباتر است ولی در بسیاری موارد ارتقاهای خوبی یافته است. گلکسی S7 سریع، پرقدرت و ضدآب است ولی مثل تمامی گوشیهای همراه بدون مشکل نیست. ما فرومها، پیامها و بطور کلی رسمی ترین سایت ها را برای پیدا کردن مشکلات و راه حلهای آنها مرور کردیم و در ادامه ده مشکل شایع که توسط کاربران این گوشی گزارش شده است را به همراه راه حل آن برای شما آورده ایم. با کوی دانش همراه شوید...

مطالعه متن کامل
آینده آموزش و عملیات نظامی با stenode

آینده آموزش و عملیات نظامی با stenode

خلبانان نظامی ارتباط نزدیک و «درگیرانه ای» با سیستم ها و تجهیزاتِ پرنده ای که با آن پرواز می کنند را تجربه می کنند. حالا گروهی از محققان در استرالیا تصمیم دارند بر روی این موضوع تاثیر بگذارند. در چهار سال گذشته، یک تیم از متخصصین مغز و اعصاب و مهندسین علوم مختلف از دانشگاه ملبورن، همراه با جراحان بیمارستان رویال ملبورن، یک رابط مغزی/ماشینیِ پیشرفته (قطعه ای الکتریکی برای جایگذاری در سر خلبان) را توسعه داده اند که از قابلیتهایی همچون نصب آسان و ماندگاری طولانی درون جمجمه برخوردار است. درنهایت، آژانس پروژه های تحقیقاتی پیشرفته آمریکا (دارپا) که تامین کننده هزینه این پروژه نیز می باشد، امیدوار است که با ورود این فناوری به کاکپیت، کنترل همه ابزارها حتی صندلی هواپیما را توسط مغز خلبان انجام دهد.

مطالعه متن کامل
رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

این ربات را می توان مثل قرصی بلعید تا اشیائی را که به اشتباه بلعید شده اند را از معده خارج نمود.

مطالعه متن کامل
 سامسونگ جزئیات بیشتری را در مورد صفحه نمایش منعطف یوم (Youm) فاش کرد

سامسونگ جزئیات بیشتری را در مورد صفحه نمایش منعطف یوم (Youm) فاش کرد

دو سال قبل بود که برای اولین بار سامسونگ در نمایشگاه CES از فناوری صفحه نمایش منعطف یوم پرده برداری نمود. اواخر سال گذشته میلادی نیز سامسونگ نوت Edge را عرضه داشت که اولین محصول این شرکت با لحاظ شدن فناوری یادشده روی آن است. در نمایشگاه CES امسال، باز هم سامسونگ به لطف ارائه فناوری یوم، مفتخر به دریافت Innovation Award شد.

مطالعه متن کامل
ژنی خاص در نوزادان ممکن است خطر زایمان زودرس را افزایش دهد.

ژنی خاص در نوزادان ممکن است خطر زایمان زودرس را افزایش دهد.

نتایج پژوهشی جدید نشان داد که وجود برخی ژن‌ها در نوزادان ممکن است خطر زایمان زودرس را افزایش دهد. پژوهشگران برخی نسخه‌های ژن‌هایی خاص را در صد‌ها نوزاد و مادرانشان تحلیل کردند. هیچگونه ارتباطی بین تعداد نسخه‌های این ژن‌ها در مادران و خطر زایمان زودرس وجود نداشت. زایمان زودرس قبل از هفته 37 بارداری رخ می‌دهد. با این وجود اگر یکی از این 4 ژن خاص تکرار شود، یا اگر یکی از 7 ژن خاص حذف شود، خطر زایمان زودرس قبل از هفته 34 بارداری، بین 2 تا 11 برابر بیشتر می‌شود. تولد قبل از هفته 34 بارداری، زایمان زودرس اولیه نامیده می‌شود.

مطالعه متن کامل
ساخت سلول های خورشیدی نیمه شفاف و پر بازده ترکیبی گرافن و پروسکیت

ساخت سلول های خورشیدی نیمه شفاف و پر بازده ترکیبی گرافن و پروسکیت

با افزایش درک انسان ها از کاربرد سلول های خورشیدی، مصرف کنندگان به دنبال راهکارهای جدیدی برای استفاده از این سلول ها در ساختمان ها و وسایل نقلیه می باشند. سلول های خورشیدی شفاف یا نیمه شفاف انعطاف و زیبایی بیشتری نسبت به سلول های خورشیدی سیلیکونی مات دارند اما قیمت نسبتا بالا و بازدهی کم آن ها باعث شده است است که کاربردشان کاهش بیابد. برای حل این مشکل محققان دانشگاه پلی تکنیک هنک کنگ سلول های خورشیدی نیمه شفاف پروسکیتی با بازدهی بالا، هزینه ی کم و الکترودهای گرافنی ساخته اند.

مطالعه متن کامل
گوشی هوشمند میان رده Huawei P8 Lite معرفی شد

گوشی هوشمند میان رده Huawei P8 Lite معرفی شد

هواوی همراه با پرچمدار خود Hauwei P8، مدل مقرون به صرفه Huawei P8 Lite را نیز معرفی کرد.

مطالعه متن کامل
فعال کردن حالت "سیاه و سفید" در آیفون و iPad

فعال کردن حالت "سیاه و سفید" در آیفون و iPad

iOS 8 دارای قابلیت‌های مختلفی است، برخی از آنها برای کاربرانی طراحی شده است که دچار کوررنگی هستند. یکی از این قابلیت‌ها رنگ‌ها را پاک می‌کند و صفحه نمایش را به رنگ سیاه و سفید نشان می‌دهد. بدون در نظر گرفتن اینکه کجا هستید، هیج رنگی دیده نمی‌شود.‌

مطالعه متن کامل