کوی دانش - kooy

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی

استفاده از داستان برای آموختن ارزش های انسانی به ایجنت های مصنوعی
26 بهمن
09:45 1394
سرعت سرسام آور پیشرفت هوش مصنوعی (AI) همزمان موجب هراس عده ای از بابت رفتار غیراخلاقی یا آسیب رسانی ربات ها به انسان نیز شده است. برخی اظهار می کنند تحقیقات در مورد ربات ها باید متوقف شود، همچنین برخی دیگر، نیاز به انجام تحقیقات در زمینه محدودسازی هوش مصنوعی را مطرح می سازند. اما سوال اینجاست با وجود فقدان "راهنمای کاربری" جهت انسان بودن چگونه می شود از ربات ها انتظار رفتار اخلاقی داشته باشیم؟

تصویر فوق: سیستم «کیشوت» که توسط مارک ریدل و برنت هاریسون ابداع شده است، آموزشِ رفتار به ربات ها به هنگام تعامل با انسان ها را انجام می دهد و خودش بخشی از پروژه ای بزرگتر می باشد.
مارک ریدل و برنت هاریسون محققان دانشکده محاسبات تعاملی انستیتوی فناوری جورجیا اعتقاد دارند پاسخ سوال مزبور در «کیشوت» نهفته که قرار است از آن در کنفرانس شانزدهم AAAI در فونیکس آریزونا (که 12 الی 17 فوریه سال جاری میلادی) برگزار می شود رونمایی شود. کیشوت برای آموزش "سازگاری یافتن با ارزش ها" به ربات ها آنهم بوسیله تعلیم خواندن داستان به ربات ها، یادگیری پیامدهای قابل قبول رویدادها و شناخت راه های موفق برای رفتار در جوامع انسانی طراحی شده است.  
ریدل استادیار و مدیر لابراتوار هوش سرگرمی در همین رابطه می گوید: "داستان های مجموعه وار از فرهنگ های مختلف، با ارائه مثال هایی از رفتارهای معقول و غیرمعقول در قالب مثل و رمان و حکایت، نحوه رفتار به شیوه های قابل قبول اجتماعی را به کودکان نشان می دهد. اعتقاد ما بر آنست که ادراک داستان توسط ربات ها نیز می تواند رفتارهای نابهنجار را در آنها ریشه کن کرده و بر این اساس ربات ها دست به انتخاب گزینه هایی بزنند که به انسان ها آسیبی نزند و درعین حال به هدف مدنظر خود نیز برسند."
کیشوت در اصل تکنیکی برای سازگاری اهداف هوش مصنوعی با ارزش های انسانی است و به این ترتیب عمل می کند که برای ارائه رفتار مناسب اجتماعی پاداشی را منظور می نماید. ساخت کیشوت برمبنای تحقیقات قبلی ریدل روی سیستم شهرزاد (Scheherazade system) صورت گرفته که نشان می دهد هوش مصنوعی به چه نحو می تواند دست به جمع آوری ترتیب صحیحی از اعمال با استفاده از «جمع سپاریِ» طرح های داستانی از اینترنت بزند. شهرزاد بدین ترتیب تصویر طرح «صحیح» یا عادی را یاد می گیرد و ساختار داده مزبور را به کیشوت تحویل می دهد که آنرا بدل به «سیگنال پاداش» می سازد  که به نوبه خود انجام رفتارهای خاصی را طی دوره آزمون و خطا در ربات تقویت کرده و رفتارهای نامطلوب را تنبیه می کند. در اصل، کیشوت یاد می گیرد که برخلاف انجام اعمال تصادفی یا اعمال شخصیت بد، هرگاه عملی مطابق با اعمال شخصیت مثبت داستان انجام بدهد پاداش خواهد گرفت.
به عنوان مثال، اگر به رباتی وظیفه فراهم سازی سریع و فوری دارو برای فردی داده شود، ربات می تواند:

الف) اقدام به سرقت از داروخانه کرده، دارو را بردارد و در برود. 

ب) رفتار مودبانه ای با مسئولان و کارکنان داروخانه داشته باشد. 

ج) در صف بماند و منتظر شود.

اگر سازگارسازی ارزش ها و آموزش مثبت داده نشود، ربات فکر می کند که سرقت سریع ترین و ارزان ترین راه برای تکمیل این وظیفه محوله است. اما درصورتی که برای جا انداختن ارزش ها از کیشوت استفاده شود ربات برای ایستادن در نوبت و پرداخت هزینه دارو پاداش خواهد گرفت. ریدل و هاریسون در تحقیق خود نحوه تولید سیگنال پاداش ارزش محور را نشان داده اند تا تمام مراحل ممکن در سناریوی محتمل مدنظر قرار گرفته شده باشد، همین طور مراحل را درون درخت ِمسیرِ طرح داستان ترسیم کرده اند. ربات از همین درخت برای انجام «انتخاب طرح» استفاده می کند (از این لحاظ انتخاب مزبور با انتخاب کتاب متناسب ذوق و سلیقه از سوی اشخاص مشابهت هایی دارد) و برمبنای انتخابش، پاداش یا تنبیهات لازم را دریافت می دارد.
استفاده از تکنیک کیشوت بیشتر برای ربات هایی مناسب است که هدف محدودی دارند، اما درعین حل برای دستیابی به آن هدف بایستی با انسان ها تعامل داشته باشند و ابداع کیشوت درحقیقت گام ابتدایی به سوی خلق تعقل اخلاقی عمومی  در هوش مصنوعی است.
به گفته ریدل: «اعتقاد ما بر آنست که برای سازگاری یافتن هوش مصنوعی با ارزش های جامعه ای خاص بایستی آنرا پرورش داد و به این منظور بایستی اجتناب از انجام رفتارهای غیرقابل قبول به آن آموزش داده شود. فراهم سازی توانایی خواندن و شناخت داستان های انسانی در غیاب دستورالعمل کاربری انسانی بهترین گزینه است.»

کلمات کلیدی

اشتراک

درباره نویسنده

هنگامه خوش خلق

هنگامه خوش خلق

اینجانب فعالیت خود را به عنوان مترجم از سال 88 و با همکاری با انتشارات طاهریان آغاز کردم .و سپس به عنوان کارمند مترجم با شرکت های مختلفی همکاری داشته ام . در این میان لازم به ذکر است که فعالیت های اینجانب علاوه بر ترجمه کتاب (در آخرین مورد نشر آوند دانش)شامل ترجمه مقالات ، همکاری به عنوان مترجم شفاهی در دوره ها و سمینارهای مختلف و کار به عنوان مسئول مکاتبات و مکالمات خارجی شرکت توسعه اطلاعات بوده است .علاوه بر زبان انگلیسی ، آشنایی متوسط با زبان های اسپانیولی و ترکی استانبولی را نیز دارا می باشم .

 

شما اولین نفری باشید که برای این خبر نظر میدهد
تصویر امنیتی



عبارت در تصویر را وارد کنید


رباتی نرم با انرژی نوری و کنترل لیزری

رباتی نرم با انرژی نوری و کنترل لیزری

برای دهه ها، دانشمندان سعی داشتند رباتی بسازند که بتواند براحتی از حالتهای مختلفِ حرکتی در طبیعت تقلید کند ولی قریب به اتفاق رباتهای ساخته شده از یک اسکلت سخت بهره می گرفتند و توسط محرکهای الکتریکی ویا پنوماتیکی نیروی حرکتی خود را تامین می کردند. موضوع ساخت رباتی با بدنی نرم، همانند کرمهای کوچک ویا «کرم صدپا» برای مهندسان به یک چالش تبدیل شده بود و چالش بزرگتر آن بود که می بایست این ربات را در اندازه ای بسیار کوچک می ساختند. به تمامی موضوعات فوق، مدیریت موضوعاتی مثل کنترل از راه دور ویا مولدهای نیرو را نیز اضافه کنید. محققان دانشکده فیزیک از دانشگاه ورشو مشکلات فوق را حل کردند و رباتی ساختند که شبیه لارو کرم صدپا می باشد که کمتر از یک بند انگشت طول بدنش است. برای بررسی بیشتر با کوی دانش همراه باشید...

مطالعه متن کامل
اسپیکر بلوتوثیِ جدید Photive

اسپیکر بلوتوثیِ جدید Photive

امروزه روز مردم بیشتر با موبایل به موسیقی گوش فرا می دهند و صد البته دسترسی به حجم عظیمی از انواع موسیقی از طریق گوشی های هوشمند، ساده تر هم شده است. در این میان تقاضا برای اسپیکرهای بلوتوث بالاتر هم رفته است بطوریکه فناوری های جالبی در این زمینه وارد بازار شده است. از پخش کننده صدای 360 درجه تا اسپیکر ضدآب مخصوص استخرها و سواحل. برای بررسی یکی از بهترینهای بلوتوث با کوی دانش همراه شوید...

مطالعه متن کامل
10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

10 مشکل شایع در Galaxy S7 و راه های برطرف کردن آنها

پرچمدار این روزهای سامسونگ نسبت به مدل قبلی فقط کمی زیباتر است ولی در بسیاری موارد ارتقاهای خوبی یافته است. گلکسی S7 سریع، پرقدرت و ضدآب است ولی مثل تمامی گوشیهای همراه بدون مشکل نیست. ما فرومها، پیامها و بطور کلی رسمی ترین سایت ها را برای پیدا کردن مشکلات و راه حلهای آنها مرور کردیم و در ادامه ده مشکل شایع که توسط کاربران این گوشی گزارش شده است را به همراه راه حل آن برای شما آورده ایم. با کوی دانش همراه شوید...

مطالعه متن کامل
آینده آموزش و عملیات نظامی با stenode

آینده آموزش و عملیات نظامی با stenode

خلبانان نظامی ارتباط نزدیک و «درگیرانه ای» با سیستم ها و تجهیزاتِ پرنده ای که با آن پرواز می کنند را تجربه می کنند. حالا گروهی از محققان در استرالیا تصمیم دارند بر روی این موضوع تاثیر بگذارند. در چهار سال گذشته، یک تیم از متخصصین مغز و اعصاب و مهندسین علوم مختلف از دانشگاه ملبورن، همراه با جراحان بیمارستان رویال ملبورن، یک رابط مغزی/ماشینیِ پیشرفته (قطعه ای الکتریکی برای جایگذاری در سر خلبان) را توسعه داده اند که از قابلیتهایی همچون نصب آسان و ماندگاری طولانی درون جمجمه برخوردار است. درنهایت، آژانس پروژه های تحقیقاتی پیشرفته آمریکا (دارپا) که تامین کننده هزینه این پروژه نیز می باشد، امیدوار است که با ورود این فناوری به کاکپیت، کنترل همه ابزارها حتی صندلی هواپیما را توسط مغز خلبان انجام دهد.

مطالعه متن کامل
رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

رباتی که می تواند اشیای بلعیده شده توسط کودکان را بیرون بیاورد

این ربات را می توان مثل قرصی بلعید تا اشیائی را که به اشتباه بلعید شده اند را از معده خارج نمود.

مطالعه متن کامل
پلوتو و اخبار ناتمامش، سلول های همرفتی غول آسا و رفرشِ مداوم قلب یخی سیاره

پلوتو و اخبار ناتمامش، سلول های همرفتی غول آسا و رفرشِ مداوم قلب یخی سیاره

بخشی بزرگ از سطح یخی پلوتو، همانند لامپ گدازه ای کیهانی، به واسطه روندی همرفتی تجدید می شود که طی آن یخ های کهنه با مواد تازه تر جایگزین می شوند. اعضای تیم نیوهورایزنز با ترکیب مدل های کامپیوتری و داده های توپوگرافی و داده های ترکیبی که توسط فضاپیمای نیوهورایزنز ناسا طی تابستان گذشته جمع آوری شد توانسته اند عمق این لایه از یخ نیتروژن جامد را که درون قلب متمایز این سیاره قرار دارد و سرعت شناوری اش را تعیین کنند، منظور از قلب یاد شده دشت وسیعی است که به صورت غیررسمی Sputnik Planum نامیده شده است.

مطالعه متن کامل
جشن تولد دوسالگی کورتانا با قابلیت های جدید

جشن تولد دوسالگی کورتانا با قابلیت های جدید

کورتانا دوساله شد. دستیار صوتی هوشمند مایکروسافت در دوم آوریل سال 2014 در یک کنفرانس رونمایی شد. در اولین حضور، کورتانا در ویندوز فون 8.1 ظاهر شد و برخی فرامین صوتی را دریافت و برخی جستجوها را انجام می داد. سپس خودش را به ویندوز 10، اندروید و iOS رسانید. برای بررسی قابلیت های جدید کورتانا با کوی دانش همراه شوید...

مطالعه متن کامل
با نمایشگر جدید سامسونگ، گوشی Galaxy S6 خود را بدون سیم شارژ کنید!

با نمایشگر جدید سامسونگ، گوشی Galaxy S6 خود را بدون سیم شارژ کنید!

خیرا شرکت سامسونگ، نمایشگر جدید خود را، Samsung SE370 ،که از «استاندارد چی» برای شارژ القایی دستگاه‌های تلفن‌های همراه استفاده می‌کند، معرفی کرده است. مدل‌های 23-اینچی و 27-اینچی از این سری نمایشگرها، از طریق یک ایستگاه شارژ دایره‌ای روی پایه‌ی نمایشگر، این امکان را برای گوشی‌های سازگار با این سامانه مانند Galaxy S6 و Nexus 6 فراهم می‌کنند که هر از گاهی بدون‌سیم شارژ شوند.

مطالعه متن کامل
استفاده از نمونه های خون و دندان برای تعیین دقیق سن مجرمان

استفاده از نمونه های خون و دندان برای تعیین دقیق سن مجرمان

دانشمندان پزشکی زیستی پزشکی قانونی، موفق به توسعه تستی شده اند که با استفاده از آن می توان سن افراد را از روی نمونه های خون یا دندان حدس زد. این تست مخصوصا برای پلیس مفید است، زیرا انجام دادن آن به شناسایی و ردیابی جنایتکاران یا شناسایی احساد متوفیان بی نام و نشان کمک خواهد کرد

مطالعه متن کامل
مقایسه گلکسی Note Edge ِ سامسونگ با G3 ال‌جی

مقایسه گلکسی Note Edge ِ سامسونگ با G3 ال‌جی

یکی از جذاب ترین گوشی های هوشمند اخیر، گلکسی Note Edge سامسونگ است، که با صفحه نمایشی غیر معمول و جدیدش، موجی تازه از نوآوری را وارد صنعت گوشی های هوشمند کرده است. با این وجود چگونه این گوشی که بدون شک دارای جایگاه ویژه ای است، می‌خواهد در مقابل اولین گوشی هوشمند از تولید کننده ای شناخته شده در ارائه صفحه نمایش Quad HD و pixel-rich، یعنی G3 ال‌جی، بایستد؟ علاوه بر این، آیا شما فبلت عجیب سامسونگ را به گوشی برجسته ای که LG اخیرا عرضه کرده است، ترجیح دهید؟ ما این دو گوشی را مقایسه می‌کنیم و به این سوال ها پاسخ می‌دهیم.

مطالعه متن کامل