خیلی سوال پیش میاد که نهایت رباتها ، در آینده اینه که تنها میتونه کارهایی که بهشون ازقبل گفتن انجام بدن...سوای بحث هوش مصنوعی و یادگیری .
من مثالی میزنم که بشه نشون داد ممکنه همیشه اینطور نباشه..قبلش بگم من یک مثال رو تا حد ممکن راحت و ساده کردم.فقط برای درک بیشتر.
فرض کنید شما رباتی (توپ قرمز رنگ) رو دارید .که فقط به سمت راست و بالا و... ،به اندازه یک متر میتونه در یک چهارچوب مشخص حرکت کنه.(کادر مستطیل)
در واقع برای ربات محدودیت اینه که :راست و پایین و...بره و اگه به انتها مسیر رسید ، باید برگرده و تغییر مسیربده.
-----------------------------------
دستورات:
دستوری که به ربات میدیم.اینه که بعد از طی کردن مسافت 1 متر ( میشه با زمان سنجید.مثلا 1 ثانیه یک متر حرکت میکنه) یعنی بعد از هر ثانیه ،دستورات ما چک میکنه که آیا به انتها مسیر رسیدیم یا خیر؟ و اگه رسیدیم .مسیر ادامه نده و برگرده و توی جهت دیگه حرکت کنه.(مختصات محدوده مستطیل داریم و براساس اونا چک میکنیم)
یعنی ما چهارچوب دستورات برای ربات اعمال کردیم.
پس به طور خلاصه .ربات هر ثانیه به یک جهت حرکت میکنه و چک میکنه انتهای مسیر هست یا خیر و ادامه میده.یعنی ما توقع داریم این ربات داخل همین صفحه شطرنجی حرکت کنه.
به طور مثال فرض کنید توپ در موقعیت آبی رنگ قرار داره.. و شرط ما اینه چک کنه اگر X==4 بود تغییر جهت بده و برعکس حرکت کنه.
---------------------------------------
خب حالا فرض کنید ،براساس داغ شدن بدنه لپتاب، رطوبت بیش اندازه و یا هرچیز دیگه عملکرد کامپیوتر به مشکل بخوره.یا اگه بر اساس کانال اینترنتی ساعت تنظیم میشه .مشکلی برای ارسال داده ایجاد بشه(فرضا گفتم) ..و یک ثانیه رو بیشتر از حد محاسبه کنه (1.5 ثانیه) .نتیجه چی میشه؟ ربات در 1.5 ثانیه 1.5 متر به سمت راست حرکت میکنه.
در واقع چون یک ثانیه به درستی حساب نشده .. و ربات (توپ آبی رنگ) ادامه میده به حرکتش و دریک ثانیه مسافت بیشتری طی میکنه.و چون هنوز به چک کردن شرط نرسیده .ابتدا مسافت بیشتری حرکت میکنه .و از محدوده بیرون میوفته مثلا مختصات (0و4.5) ،(موقعیت زرد رنگ) و حالا چک میکنه آیا به یک نقطه گوشه ای رسیده یا نه؟ چون 4.5 مساوی عدد 4 نیست .
پس "شرط جلوگیری" مشکلی نداره و به راهش ادامه میده.
و اینجاست دیگه ربات از محدود خارج میشه . و حالا اگه فرض کنید توپ زرد رنگ یک متر دوباره به سمت راست بره میرسه به نقطه 5.5 که چون "شرط جلوگیری" مشکلی نداره و ادامه میده.
---------------------------
خلاصه چی شد؟
یعنی ما یک رباتی که دستور دادیم توی یه محدوده مشخص حرکت کنه .با اشتباهات محاسباتی از داخل دستگاه (به هردلیلی) ،دستگاه از دستوارت ما تخطی کرد.
#تذکر:
خواهشا قبل نظر دادن .بدونید شاید بگید خب شرط بهتر میزاریم (مثلا بزرگتر از 4 نباشه) یا .... ولی بدونید من برای راحتی این مثال زدم.
خواهشا اگه این مورد به عنوان باگ هم درنظر میگیرید! هیچ مشکلی به موضوع ما وارد نمیکنه.مهم این بود که به هر نحوی ربات رفتاری نشون داد که ما انتظار نداشتیم.
حالا این مسئله رو بسط بدید به رباتهای پیشرفته و شرط ها و قوانین که بهش میدیم . رفتارهایی ممکنه انجام بدن که در انتظار خود سازنده اش نباشه.
گوگل بیراه نگفته :که باید برای رباتهای خلاف کار در آینده جریمه وضع کرد!!!!!
#منبع عقل کم خودم.))
