کوی دانش - kooy

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی
26 بهمن
09:45 1394
سرعت سرسام آور پیشرفت هوش مصنوعی (AI) همزمان موجب هراس عده ای از بابت رفتار غیراخلاقی یا آسیب رسانی ربات ها به انسان نیز شده است. برخی اظهار می کنند تحقیقات در مورد ربات ها باید متوقف شود، همچنین برخی دیگر، نیاز به انجام تحقیقات در زمینه محدودسازی هوش مصنوعی را مطرح می سازند. اما سوال اینجاست با وجود فقدان "راهنمای کاربری" جهت انسان بودن چگونه می شود از ربات ها انتظار رفتار اخلاقی داشته باشیم؟

تصویر فوق: سیستم «کیشوت» که توسط مارک ریدل و برنت هاریسون ابداع شده است، آموزشِ رفتار به ربات ها به هنگام تعامل با انسان ها را انجام می دهد و خودش بخشی از پروژه ای بزرگتر می باشد.
مارک ریدل و برنت هاریسون محققان دانشکده محاسبات تعاملی انستیتوی فناوری جورجیا اعتقاد دارند پاسخ سوال مزبور در «کیشوت» نهفته که قرار است از آن در کنفرانس شانزدهم AAAI در فونیکس آریزونا (که 12 الی 17 فوریه سال جاری میلادی) برگزار می شود رونمایی شود. کیشوت برای آموزش "سازگاری یافتن با ارزش ها" به ربات ها آنهم بوسیله تعلیم خواندن داستان به ربات ها، یادگیری پیامدهای قابل قبول رویدادها و شناخت راه های موفق برای رفتار در جوامع انسانی طراحی شده است.  
ریدل استادیار و مدیر لابراتوار هوش سرگرمی در همین رابطه می گوید: "داستان های مجموعه وار از فرهنگ های مختلف، با ارائه مثال هایی از رفتارهای معقول و غیرمعقول در قالب مثل و رمان و حکایت، نحوه رفتار به شیوه های قابل قبول اجتماعی را به کودکان نشان می دهد. اعتقاد ما بر آنست که ادراک داستان توسط ربات ها نیز می تواند رفتارهای نابهنجار را در آنها ریشه کن کرده و بر این اساس ربات ها دست به انتخاب گزینه هایی بزنند که به انسان ها آسیبی نزند و درعین حال به هدف مدنظر خود نیز برسند."
کیشوت در اصل تکنیکی برای سازگاری اهداف هوش مصنوعی با ارزش های انسانی است و به این ترتیب عمل می کند که برای ارائه رفتار مناسب اجتماعی پاداشی را منظور می نماید. ساخت کیشوت برمبنای تحقیقات قبلی ریدل روی سیستم شهرزاد (Scheherazade system) صورت گرفته که نشان می دهد هوش مصنوعی به چه نحو می تواند دست به جمع آوری ترتیب صحیحی از اعمال با استفاده از «جمع سپاریِ» طرح های داستانی از اینترنت بزند. شهرزاد بدین ترتیب تصویر طرح «صحیح» یا عادی را یاد می گیرد و ساختار داده مزبور را به کیشوت تحویل می دهد که آنرا بدل به «سیگنال پاداش» می سازد  که به نوبه خود انجام رفتارهای خاصی را طی دوره آزمون و خطا در ربات تقویت کرده و رفتارهای نامطلوب را تنبیه می کند. در اصل، کیشوت یاد می گیرد که برخلاف انجام اعمال تصادفی یا اعمال شخصیت بد، هرگاه عملی مطابق با اعمال شخصیت مثبت داستان انجام بدهد پاداش خواهد گرفت.
به عنوان مثال، اگر به رباتی وظیفه فراهم سازی سریع و فوری دارو برای فردی داده شود، ربات می تواند:

الف) اقدام به سرقت از داروخانه کرده، دارو را بردارد و در برود. 

ب) رفتار مودبانه ای با مسئولان و کارکنان داروخانه داشته باشد. 

ج) در صف بماند و منتظر شود.

اگر سازگارسازی ارزش ها و آموزش مثبت داده نشود، ربات فکر می کند که سرقت سریع ترین و ارزان ترین راه برای تکمیل این وظیفه محوله است. اما درصورتی که برای جا انداختن ارزش ها از کیشوت استفاده شود ربات برای ایستادن در نوبت و پرداخت هزینه دارو پاداش خواهد گرفت. ریدل و هاریسون در تحقیق خود نحوه تولید سیگنال پاداش ارزش محور را نشان داده اند تا تمام مراحل ممکن در سناریوی محتمل مدنظر قرار گرفته شده باشد، همین طور مراحل را درون درخت ِمسیرِ طرح داستان ترسیم کرده اند. ربات از همین درخت برای انجام «انتخاب طرح» استفاده می کند (از این لحاظ انتخاب مزبور با انتخاب کتاب متناسب ذوق و سلیقه از سوی اشخاص مشابهت هایی دارد) و برمبنای انتخابش، پاداش یا تنبیهات لازم را دریافت می دارد.
استفاده از تکنیک کیشوت بیشتر برای ربات هایی مناسب است که هدف محدودی دارند، اما درعین حل برای دستیابی به آن هدف بایستی با انسان ها تعامل داشته باشند و ابداع کیشوت درحقیقت گام ابتدایی به سوی خلق تعقل اخلاقی عمومی  در هوش مصنوعی است.
به گفته ریدل: «اعتقاد ما بر آنست که برای سازگاری یافتن هوش مصنوعی با ارزش های جامعه ای خاص بایستی آنرا پرورش داد و به این منظور بایستی اجتناب از انجام رفتارهای غیرقابل قبول به آن آموزش داده شود. فراهم سازی توانایی خواندن و شناخت داستان های انسانی در غیاب دستورالعمل کاربری انسانی بهترین گزینه است.»

کلمات کلیدی

اشتراک

درباره نویسنده

هنگامه خوش خلق

هنگامه خوش خلق

اینجانب فعالیت خود را به عنوان مترجم از سال 88 و با همکاری با انتشارات طاهریان آغاز کردم .و سپس به عنوان کارمند مترجم با شرکت های مختلفی همکاری داشته ام . در این میان لازم به ذکر است که فعالیت های اینجانب علاوه بر ترجمه کتاب (در آخرین مورد نشر آوند دانش)شامل ترجمه مقالات ، همکاری به عنوان مترجم شفاهی در دوره ها و سمینارهای مختلف و کار به عنوان مسئول مکاتبات و مکالمات خارجی شرکت توسعه اطلاعات بوده است .علاوه بر زبان انگلیسی ، آشنایی متوسط با زبان های اسپانیولی و ترکی استانبولی را نیز دارا می باشم .

 

شما اولین نفری باشید که برای این خبر نظر میدهد
تصویر امنیتی



عبارت در تصویر را وارد کنید


رباتی نرم با انرژی نوری و کنترل لیزری

رباتی نرم با انرژی نوری و کنترل لیزری

برای دهه ها، دانشمندان سعی داشتند رباتی بسازند که بتواند براحتی از حالتهای مختلفِ حرکتی در طبیعت تقلید کند ولی قریب به اتفاق رباتهای ساخته شده از یک اسکلت سخت بهره می گرفتند و توسط محرکهای الکتریکی ویا پنوماتیکی نیروی حرکتی خود را تامین می کردند. موضوع ساخت رباتی با بدنی نرم، همانند کرمهای کوچک ویا «کرم صدپا» برای مهندسان به یک چالش تبدیل شده بود و چالش بزرگتر آن بود که می بایست این ربات را در اندازه ای بسیار کوچک می ساختند. به تمامی موضوعات فوق، مدیریت موضوعاتی مثل کنترل از راه دور ویا مولدهای نیرو را نیز اضافه کنید. محققان دانشکده فیزیک از دانشگاه ورشو مشکلات فوق را حل کردند و رباتی ساختند که شبیه لارو کرم صدپا می باشد که کمتر از یک بند انگشت طول بدنش است. برای بررسی بیشتر با کوی دانش همراه باشید...

مطالعه متن کامل
اسپیکر بلوتوثیِ جدید Photive

اسپیکر بلوتوثیِ جدید Photive

امروزه روز مردم بیشتر با موبایل به موسیقی گوش فرا می دهند و صد البته دسترسی به حجم عظیمی از انواع موسیقی از طریق گوشی های هوشمند، ساده تر هم شده است. در این میان تقاضا برای اسپیکرهای بلوتوث بالاتر هم رفته است بطوریکه فناوری های جالبی در این زمینه وارد بازار شده است. از پخش کننده صدای 360 درجه تا اسپیکر ضدآب مخصوص استخرها و سواحل. برای بررسی یکی از بهترینهای بلوتوث با کوی دانش همراه شوید...

مطالعه متن کامل
10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

پرچمدار این روزهای سامسونگ نسبت به مدل قبلی فقط کمی زیباتر است ولی در بسیاری موارد ارتقاهای خوبی یافته است. گلکسی S7 سریع، پرقدرت و ضدآب است ولی مثل تمامی گوشیهای همراه بدون مشکل نیست. ما فرومها، پیامها و بطور کلی رسمی ترین سایت ها را برای پیدا کردن مشکلات و راه حلهای آنها مرور کردیم و در ادامه ده مشکل شایع که توسط کاربران این گوشی گزارش شده است را به همراه راه حل آن برای شما آورده ایم. با کوی دانش همراه شوید...

مطالعه متن کامل
آینده آموزش و عملیات نظامی با stenode

آینده آموزش و عملیات نظامی با stenode

خلبانان نظامی ارتباط نزدیک و «درگیرانه ای» با سیستم ها و تجهیزاتِ پرنده ای که با آن پرواز می کنند را تجربه می کنند. حالا گروهی از محققان در استرالیا تصمیم دارند بر روی این موضوع تاثیر بگذارند. در چهار سال گذشته، یک تیم از متخصصین مغز و اعصاب و مهندسین علوم مختلف از دانشگاه ملبورن، همراه با جراحان بیمارستان رویال ملبورن، یک رابط مغزی/ماشینیِ پیشرفته (قطعه ای الکتریکی برای جایگذاری در سر خلبان) را توسعه داده اند که از قابلیتهایی همچون نصب آسان و ماندگاری طولانی درون جمجمه برخوردار است. درنهایت، آژانس پروژه های تحقیقاتی پیشرفته آمریکا (دارپا) که تامین کننده هزینه این پروژه نیز می باشد، امیدوار است که با ورود این فناوری به کاکپیت، کنترل همه ابزارها حتی صندلی هواپیما را توسط مغز خلبان انجام دهد.

مطالعه متن کامل
رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

این ربات را می توان مثل قرصی بلعید تا اشیائی را که به اشتباه بلعید شده اند را از معده خارج نمود.

مطالعه متن کامل
تا آخرین قطره قهوه خود را با استفاده از لیوان goat بنوشید.

تا آخرین قطره قهوه خود را با استفاده از لیوان goat بنوشید.

Goat لیوانی کاربردی و پایه دار است که توسط desnahemisfera با همکاری myequa ساخته شده است و در نظر دارد به حیواناتی که قهوه را کشف کردند، ادای احترام کند. این لیوان به شکل شاخ است و نه تنها داستان اصلی قهوه را بازگو می‌کند بلکه به شما کمک می‌کند تا آخرین قطره قهوه خود را بنوشید. علاوه بر این، نگهدارنده چرمی آن کاملا ضد نشت است، BPA-free به سادگی تبدیل به پایه ای برای لیوان می‌شود و می‌توانید به راحتی آن را روی هر سطحی قرار دهید.

مطالعه متن کامل
رادار دقت بالا برای صنعت فولاد

رادار دقت بالا برای صنعت فولاد

فولاد پراهمیت ترین ماده در ساخت وسایل نقلیه و ماشین آلات است. در فرآیندهای نورد و تبدیل شکل فولاد از فولاد خام به نوار، مقدار زیادی خرده آهن و قراضه برجای می ماند. رادار جدید تولید شده توسط مؤسسه فرانهوفر در آلمان، پهنای نوار فولادی را هنگام ساخت آن با دقتی در اندازه میکرومتر اندازه گیری می کند و کمک می کند خرده آهن های برجای مانده به حداقل برسد.

مطالعه متن کامل
10 نرم افزار برتر اندروید در ماه آگوست

10 نرم افزار برتر اندروید در ماه آگوست

فروشگاه اینترنتی Google Play Store دارای نرم افزارهای زیادی برای اندروید می باشد. این برنامه ها در گروه های مختلفی مانند عکس و ویدیو، تولید، شبکه های اجتماعی، اخبار و ... دسته بندی می شوند. بنابراین مشکل است که بدانید کدام برنامه برای شما مناسب است. نگران نباشید. با کوی دانش همراه شوید تا 10نرم افزار برتر اندروید در ماه آگوست را به شما معرفی کنیم.

مطالعه متن کامل
دی اکسید کربن امروز، بتن فردا

دی اکسید کربن امروز، بتن فردا

به موازت افزایش ادامه دار انتشار گاز کربن و گرم شدن سیاره زمین، نیازمند پیدا کردن روش هایی برای کاهش این گاز هستیم. یکی از تدبیرهایی که به همین منظور ارائه شده جداسازی کربن در منبع تولیدش است، اما با این وجود هنوز مشکل ذخیره سازی تمام کربنی که از اتمسفر جمع آوری می شود وجود دارد.

مطالعه متن کامل
بلندگوهای بلوتوثی ضد آب ناین آکوا (Nyne Aqua)

بلندگوهای بلوتوثی ضد آب ناین آکوا (Nyne Aqua)

ناین آکوا یک سیستم استریوی بی‌سیم شناور است. در نمایشگاه بین المللی CES سال گذشته (2014)، بسیاری بلندگوی بلوتوثی عرضه شده بود و یکی از آنها که متمایز از بقیه بود بلندگوی ضد آب و شناور آکوا ناین نام داشت. حال فرصتی دست داده است این بلندگوها را امتحان کنیم و ببینیم واقعا آنطور که ادعا می‌شود شنا می‌کنند یا زیر آب غرق می‌شوند!.

مطالعه متن کامل