پاسخ به: اگرروزی متوجه اشتباه خود شویم!

دوست عزیز shpegah

حقیر در حال گذراندن دوره دکتری خود در رشته‌ی هوش مصنوعی هستم و برخی از این سوالات از قدیم مورد علاقه بنده و برخی دیگر از افراد محصل در این رشته بوده است (و یکی از دلایل علاقه افراد به این رشته).
به صورت کاملا تصادفی این صفحه رو دیدم و جسته گریخته مباحث رو دنبال کردم. علیرغم اینکه این بحث خاتمه یافته است و بنده هم متاسفانه فرصت چندانی ندارم، به نظرم رسید برخی کلیدواژه‌ها را مطرح کنم شاید برای شما و دیگرانی که بعدا میبینند کمکی باشد.

برخی بحثهایی که مطرج میکنید در کلیت مباحث درستی هستند که مورد توجه جمعی کثیری از متفکرین این حوزه‌ها هستند (کلیت امکان یا عدم امکان ساختن روبات با هوشمندی کاملا غیر قابل تمیز از انسان در تمام کاربردها)، برخی دیگر جنبه‌های درستی دارند ولی وقتی به صورت علمی دقیق وارد جزئیات شوید حرفهای درستی نیستند (مثل برخی از حرفهایتان در مورد جزئیات ساختن الگوریتمهای هوشمند که اگر جدا اقدام کنید متوجه میشوید که برای ساده‌ترین چیزها از قبیل دیدن و شنیدن که برای کودکان هم آسان است، بسیار پیچیده‌تر از چیزی است که توصیف میکنید) و برخی دیگر که به نظرم یا کاملا اشتباه هستند یا به نحوی مساله رو بیان کردید که برداشت اشتباهی منتقل میکنند (مثل جمله «چنین کامپیوتری تا به حال ساخته نشده نه به این دلیل که نمیشود ساخت بلکه به این دلیل که مضراست خطرش به قدر آشکار و ملموس است که هیچ عاقلی چنین نخواهد کرد»…)

و اما کلید واژه‌ها (عبارات انگلیسی رو مینویسم که بتونید سرچ کنید و اونقدر مشهور هستند که همگی در ویکیپدیا هم برایشان مطلب هست):
درباره‌ی مقایسه هوشمندی الگوریتمها با انسان به صورت کلاسیک معمولا دو سطح مطرح میشه:
اولی که احتمالا شنیدید Turing test (و مشابهات آن) است که کلیت ایده اینه «ساخت الگوریتمی که به گونه‌ای به سوالات پاسخ دهد که یک انسان نتواند تشخیص دهد که یک ماشین آن جواب را تولید کرده است یا یک انسان دیگر» هرچند هنوز به صورت کامل این هدف محقق نشده است ولی در جهت آن گامهای خوبی برداشته شده است و از نظر بنده امتناع عقلی ندارد که که در آینده (شاید نزدیک) به صورت کامل محقق شود.
سطح دوم، که فکر میکنم ندیده باشید و بیشتر با این سایت تناسب موضوع دارد با عنوان Chinese room شناخته میشود و بیان میدارد که حتی اگر یک ماشین بتواند تست تورینگ رو رد بکند، فقط از دید black box شبیه انسانها به نظر میرسد ولی کماکان نباید آن را معادل انسان هوشمند دانست چرا که فهم و خود آگاهی ندارد. (دلیل انتخاب این نام هم به همان بحث دیتابیس که دیدم در خلال بحثها مطرح شده برمیگردد که میگوید پیدا کردن مثلا معنی لغات و عبارات چینی از توی دیکشنری و برگردوندن جواب، به معنی فهمیدن چینی نیست، هرچند یک نفر که ندونه کی داره جوابها رو تولید میکنه به هیچ وجه نتونه تشخیص بده که یک مترجم که واقعا چینی میفهمه داره جواب میده یا یک ماشین بدون فهم که از دیکشنری استفاده میکنه)

کلیدواژه‌ی بعدی که میتونم معرفی کنم بحث Philosophical zombie است که یک اصطلاح در فلسفه ذهنه که دقیقا همین بحث «عملکرد خارجی کاملا شبیه انسان» و تفاوت اون با داشتن «خودآگاهی» و دیگر کیفیات ذهنی که یک انسان به صورت subjective ادراک میکنه، رو مطرح میکنه.

و البته تصادفی نیست که مساله به کلیدواژه‌ی خودآگاهی (Consciousness) منتهی میشه که به اذغان دانشمندان تراز اول غربی هم چیزیه که هنوز علیرغم تلاشهایی که شده هیچکدوم از دستاوردهای علم objective (اعم از نظریه کوانتوم و مانند آن) قادر به توصیفش نیستند (به عنوان مثال Roger Penrose (فیلسوف و فیزیکدان برجسته) در این زمینه نظریات و کتابهایی داره که میتونه نقطه شروع خوبی برای مطالعه این موضوع در سطح فلسفه و فیزیک باشه)