کوی دانش - kooy

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی
26 بهمن
09:45 1394
سرعت سرسام آور پیشرفت هوش مصنوعی (AI) همزمان موجب هراس عده ای از بابت رفتار غیراخلاقی یا آسیب رسانی ربات ها به انسان نیز شده است. برخی اظهار می کنند تحقیقات در مورد ربات ها باید متوقف شود، همچنین برخی دیگر، نیاز به انجام تحقیقات در زمینه محدودسازی هوش مصنوعی را مطرح می سازند. اما سوال اینجاست با وجود فقدان "راهنمای کاربری" جهت انسان بودن چگونه می شود از ربات ها انتظار رفتار اخلاقی داشته باشیم؟

تصویر فوق: سیستم «کیشوت» که توسط مارک ریدل و برنت هاریسون ابداع شده است، آموزشِ رفتار به ربات ها به هنگام تعامل با انسان ها را انجام می دهد و خودش بخشی از پروژه ای بزرگتر می باشد.
مارک ریدل و برنت هاریسون محققان دانشکده محاسبات تعاملی انستیتوی فناوری جورجیا اعتقاد دارند پاسخ سوال مزبور در «کیشوت» نهفته که قرار است از آن در کنفرانس شانزدهم AAAI در فونیکس آریزونا (که 12 الی 17 فوریه سال جاری میلادی) برگزار می شود رونمایی شود. کیشوت برای آموزش "سازگاری یافتن با ارزش ها" به ربات ها آنهم بوسیله تعلیم خواندن داستان به ربات ها، یادگیری پیامدهای قابل قبول رویدادها و شناخت راه های موفق برای رفتار در جوامع انسانی طراحی شده است.  
ریدل استادیار و مدیر لابراتوار هوش سرگرمی در همین رابطه می گوید: "داستان های مجموعه وار از فرهنگ های مختلف، با ارائه مثال هایی از رفتارهای معقول و غیرمعقول در قالب مثل و رمان و حکایت، نحوه رفتار به شیوه های قابل قبول اجتماعی را به کودکان نشان می دهد. اعتقاد ما بر آنست که ادراک داستان توسط ربات ها نیز می تواند رفتارهای نابهنجار را در آنها ریشه کن کرده و بر این اساس ربات ها دست به انتخاب گزینه هایی بزنند که به انسان ها آسیبی نزند و درعین حال به هدف مدنظر خود نیز برسند."
کیشوت در اصل تکنیکی برای سازگاری اهداف هوش مصنوعی با ارزش های انسانی است و به این ترتیب عمل می کند که برای ارائه رفتار مناسب اجتماعی پاداشی را منظور می نماید. ساخت کیشوت برمبنای تحقیقات قبلی ریدل روی سیستم شهرزاد (Scheherazade system) صورت گرفته که نشان می دهد هوش مصنوعی به چه نحو می تواند دست به جمع آوری ترتیب صحیحی از اعمال با استفاده از «جمع سپاریِ» طرح های داستانی از اینترنت بزند. شهرزاد بدین ترتیب تصویر طرح «صحیح» یا عادی را یاد می گیرد و ساختار داده مزبور را به کیشوت تحویل می دهد که آنرا بدل به «سیگنال پاداش» می سازد  که به نوبه خود انجام رفتارهای خاصی را طی دوره آزمون و خطا در ربات تقویت کرده و رفتارهای نامطلوب را تنبیه می کند. در اصل، کیشوت یاد می گیرد که برخلاف انجام اعمال تصادفی یا اعمال شخصیت بد، هرگاه عملی مطابق با اعمال شخصیت مثبت داستان انجام بدهد پاداش خواهد گرفت.
به عنوان مثال، اگر به رباتی وظیفه فراهم سازی سریع و فوری دارو برای فردی داده شود، ربات می تواند:

الف) اقدام به سرقت از داروخانه کرده، دارو را بردارد و در برود. 

ب) رفتار مودبانه ای با مسئولان و کارکنان داروخانه داشته باشد. 

ج) در صف بماند و منتظر شود.

اگر سازگارسازی ارزش ها و آموزش مثبت داده نشود، ربات فکر می کند که سرقت سریع ترین و ارزان ترین راه برای تکمیل این وظیفه محوله است. اما درصورتی که برای جا انداختن ارزش ها از کیشوت استفاده شود ربات برای ایستادن در نوبت و پرداخت هزینه دارو پاداش خواهد گرفت. ریدل و هاریسون در تحقیق خود نحوه تولید سیگنال پاداش ارزش محور را نشان داده اند تا تمام مراحل ممکن در سناریوی محتمل مدنظر قرار گرفته شده باشد، همین طور مراحل را درون درخت ِمسیرِ طرح داستان ترسیم کرده اند. ربات از همین درخت برای انجام «انتخاب طرح» استفاده می کند (از این لحاظ انتخاب مزبور با انتخاب کتاب متناسب ذوق و سلیقه از سوی اشخاص مشابهت هایی دارد) و برمبنای انتخابش، پاداش یا تنبیهات لازم را دریافت می دارد.
استفاده از تکنیک کیشوت بیشتر برای ربات هایی مناسب است که هدف محدودی دارند، اما درعین حل برای دستیابی به آن هدف بایستی با انسان ها تعامل داشته باشند و ابداع کیشوت درحقیقت گام ابتدایی به سوی خلق تعقل اخلاقی عمومی  در هوش مصنوعی است.
به گفته ریدل: «اعتقاد ما بر آنست که برای سازگاری یافتن هوش مصنوعی با ارزش های جامعه ای خاص بایستی آنرا پرورش داد و به این منظور بایستی اجتناب از انجام رفتارهای غیرقابل قبول به آن آموزش داده شود. فراهم سازی توانایی خواندن و شناخت داستان های انسانی در غیاب دستورالعمل کاربری انسانی بهترین گزینه است.»

کلمات کلیدی

اشتراک

درباره نویسنده

هنگامه خوش خلق

هنگامه خوش خلق

اینجانب فعالیت خود را به عنوان مترجم از سال 88 و با همکاری با انتشارات طاهریان آغاز کردم .و سپس به عنوان کارمند مترجم با شرکت های مختلفی همکاری داشته ام . در این میان لازم به ذکر است که فعالیت های اینجانب علاوه بر ترجمه کتاب (در آخرین مورد نشر آوند دانش)شامل ترجمه مقالات ، همکاری به عنوان مترجم شفاهی در دوره ها و سمینارهای مختلف و کار به عنوان مسئول مکاتبات و مکالمات خارجی شرکت توسعه اطلاعات بوده است .علاوه بر زبان انگلیسی ، آشنایی متوسط با زبان های اسپانیولی و ترکی استانبولی را نیز دارا می باشم .

 

شما اولین نفری باشید که برای این خبر نظر میدهد
تصویر امنیتی



عبارت در تصویر را وارد کنید


رباتی نرم با انرژی نوری و کنترل لیزری

رباتی نرم با انرژی نوری و کنترل لیزری

برای دهه ها، دانشمندان سعی داشتند رباتی بسازند که بتواند براحتی از حالتهای مختلفِ حرکتی در طبیعت تقلید کند ولی قریب به اتفاق رباتهای ساخته شده از یک اسکلت سخت بهره می گرفتند و توسط محرکهای الکتریکی ویا پنوماتیکی نیروی حرکتی خود را تامین می کردند. موضوع ساخت رباتی با بدنی نرم، همانند کرمهای کوچک ویا «کرم صدپا» برای مهندسان به یک چالش تبدیل شده بود و چالش بزرگتر آن بود که می بایست این ربات را در اندازه ای بسیار کوچک می ساختند. به تمامی موضوعات فوق، مدیریت موضوعاتی مثل کنترل از راه دور ویا مولدهای نیرو را نیز اضافه کنید. محققان دانشکده فیزیک از دانشگاه ورشو مشکلات فوق را حل کردند و رباتی ساختند که شبیه لارو کرم صدپا می باشد که کمتر از یک بند انگشت طول بدنش است. برای بررسی بیشتر با کوی دانش همراه باشید...

مطالعه متن کامل
اسپیکر بلوتوثیِ جدید Photive

اسپیکر بلوتوثیِ جدید Photive

امروزه روز مردم بیشتر با موبایل به موسیقی گوش فرا می دهند و صد البته دسترسی به حجم عظیمی از انواع موسیقی از طریق گوشی های هوشمند، ساده تر هم شده است. در این میان تقاضا برای اسپیکرهای بلوتوث بالاتر هم رفته است بطوریکه فناوری های جالبی در این زمینه وارد بازار شده است. از پخش کننده صدای 360 درجه تا اسپیکر ضدآب مخصوص استخرها و سواحل. برای بررسی یکی از بهترینهای بلوتوث با کوی دانش همراه شوید...

مطالعه متن کامل
10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

پرچمدار این روزهای سامسونگ نسبت به مدل قبلی فقط کمی زیباتر است ولی در بسیاری موارد ارتقاهای خوبی یافته است. گلکسی S7 سریع، پرقدرت و ضدآب است ولی مثل تمامی گوشیهای همراه بدون مشکل نیست. ما فرومها، پیامها و بطور کلی رسمی ترین سایت ها را برای پیدا کردن مشکلات و راه حلهای آنها مرور کردیم و در ادامه ده مشکل شایع که توسط کاربران این گوشی گزارش شده است را به همراه راه حل آن برای شما آورده ایم. با کوی دانش همراه شوید...

مطالعه متن کامل
آینده آموزش و عملیات نظامی با stenode

آینده آموزش و عملیات نظامی با stenode

خلبانان نظامی ارتباط نزدیک و «درگیرانه ای» با سیستم ها و تجهیزاتِ پرنده ای که با آن پرواز می کنند را تجربه می کنند. حالا گروهی از محققان در استرالیا تصمیم دارند بر روی این موضوع تاثیر بگذارند. در چهار سال گذشته، یک تیم از متخصصین مغز و اعصاب و مهندسین علوم مختلف از دانشگاه ملبورن، همراه با جراحان بیمارستان رویال ملبورن، یک رابط مغزی/ماشینیِ پیشرفته (قطعه ای الکتریکی برای جایگذاری در سر خلبان) را توسعه داده اند که از قابلیتهایی همچون نصب آسان و ماندگاری طولانی درون جمجمه برخوردار است. درنهایت، آژانس پروژه های تحقیقاتی پیشرفته آمریکا (دارپا) که تامین کننده هزینه این پروژه نیز می باشد، امیدوار است که با ورود این فناوری به کاکپیت، کنترل همه ابزارها حتی صندلی هواپیما را توسط مغز خلبان انجام دهد.

مطالعه متن کامل
رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

این ربات را می توان مثل قرصی بلعید تا اشیائی را که به اشتباه بلعید شده اند را از معده خارج نمود.

مطالعه متن کامل
آسم با ابتلا به میگرن مزمن ارتباط دارد

آسم با ابتلا به میگرن مزمن ارتباط دارد

نتایج پژوهشی جدید نشان داد افراد مبتلا به آسم، دو برابر بیشتر از کسانی که مشکلات تنفسی ندارند در معرض ابتلا به میگرن مزمن هستند.

مطالعه متن کامل
کشف منظومه دوتایی ستاره ای توسط یک محقق

کشف منظومه دوتایی ستاره ای توسط یک محقق

کشف اولین منظومه ستاره دوتایی عظیم با خصوصیات ویژه توسط یک دانشجوی دوره پی اچ دی

مطالعه متن کامل
آموزش برطرف نمودن 25 مشکل عمده در iPhone 6 و iPhone 6 Plus (بخش اول)

آموزش برطرف نمودن 25 مشکل عمده در iPhone 6 و iPhone 6 Plus (بخش اول)

اپل زیر فشارهای زیاد آخرین iPhone خود را با صفحه نمایشی بزرگتر از سری قبل عرضه نمود. iPhone 6 و iPhone 6 Plus، این دو گوشیِ زیبا و دلربا تا کنون فروش خوبی داشته اند. بیشتر مردم از خرید خود راضی هستند، ولی مشکلات زیادی در رابطه با iPhone 6 گزارش شده است. اگر شما هم با این گوشی ها مشکلی داشته اید، ممکن است جواب خود را در زیر بیابید.

مطالعه متن کامل
کاغذِ کم هزینه و زیست‌کنش‌ور (bioactive) می‌تواند در کمتر از یک دقیقه، گروه خونی را تعیین کند.

کاغذِ کم هزینه و زیست‌کنش‌ور (bioactive) می‌تواند در کمتر از یک دقیقه، گروه خونی را تعیین کند.

تعیین نوع گروه خونی برای انتقال خون یک امر حیاتی می باشد اما در برخی نواحی که تجهیزات مناسب پزشکی در دسترس نیست انجام این کار تقریباً غیر ممکن است. با اینحال تولید کاغذی جدید و زیست‌کنش‌ور شرایط را تغییر می دهد. این محصول می‌تواند فقط چند قطره خون را تجزیه و تحلیل کند و گروه خونیِ فرد را در کمتر از یک دقیقه تعیین کند. آنهم بدون هیچ گونه استفاده از نیروی برق یا باتری ویا استفاده از ابزارهای آزمایشگاهی. با کوی دانش همراه شوید تا این محصول جالب را با هم مرور کنیم...

مطالعه متن کامل
ویدئو: "رادیو فینیکس" از خاکسترهای حاصل از تصادم خوشه کهکشانی بوجود آمد

ویدئو: "رادیو فینیکس" از خاکسترهای حاصل از تصادم خوشه کهکشانی بوجود آمد

میلیون ها سال پیش از این، جریانهایی از الکترون های پر انرژی از سیاه چاله پرجرمی در قلب خوشه کهکشانی Abell 1033 به بیرون پرتاب شدند.

مطالعه متن کامل