[ad_1]
قوانین سهگانه روباتیک آسیموف، خیلی مختصر و مفید، اصول و قوانینی که روباتها باید به آنها وفادار باشند، را تببین میکردند.
شمایی کودکان و نوجوانان دهه ۶۰ و اویل دهه ۷۰ممکن است این ۳ قانون را بارها در حین مطالعه علمی- تخیلی آسیموف خوانده باشید.
اما جالب است بدانید که نویسندگان داستانهای علمی- تخیلی این قوانین را افزایش دادهاند و در این سالهای طولانی که بازار کتاب ما کساد بود و در شرایطی که هماینک هم کمتر مترجم و ناشری است که ریسک ترجمه داستانهای تازه از نویسندگان جدید علمی- تخیلی را قبول کند، خیالپردازان این سه قانون را به شش قانون رساندهاند:
- قانون منهای یکم – یک روبات نباید به موجود حسگر آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن به او گردد.
- قانون صفرم – یک روبات نباید به بشریت آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن به بشریت شود.
- قانون یکم (تکمیل شده) – یک روبات نباید به انسان آسیب برساند و یا با خودداری از عملی موجب آسیب دیدن او شود، مگر این که قانون صفرم نقض شود.
- قانون دوم – یک روبات باید به تمام دستوراتی که از سوی انسان به او داده میشود عمل کند، مگر این که دستورات قانون اول را نقض کند.
- قانون سوم – یک روبات، تا جایی که قوانین اول یا دوم نقض نشود، باید از وجود خود حفاظت کند.
- قانون چهارم – یک روبات باید همیشه ماهیت روباتی خود را حفظ کند.
- قانون پنجم – یک روبات باید بداند که روبات است.
هنوز رؤیای آسیموف و نویسندگان داستانهای علمی- تخیلی در زمینه روباتیک برآورده نشده و ما هنوز روباتهایی به هوشمندی و توانایی مثلا آر دنیل الیواو نداریم. اما هوش مصنوعی این چند ساله با سرعت خوبی در حال پیشرفت است و ما شاهد هستیم که هوش مصنوعی و یادگیری ماشینی اینک میتوانند کارهایی بکنند که پیش از این تصورش را نمیکردیم.
میتوان تصور کرد که یکی دو دهه بعد هوش مصنوعی به آستانهای از توانمندی برسد که کم کم برخی از تواناییهایی که تا امروز فقط در انحصار پردازش یا توان تصمیمگیری مدارهای مغزی ما بود را به چالش بکشد.
اما اگر این توانایی هوش مصنوعی از آغز بیسامان رشد کند و در قید و بندی نباشد، بالقوه میتواند برای بشریت مخرب هم باشد.
از همین رو است که افرادی پیدا شدهاند که در پی ایجاد قوانین و اصولی برای هوش مصنوعی به مانند قوانین روباتیک هستند.
در اینجا ۲۳ اصلی را که با هم مرور میکنیم که البته آن نظم و مختصر و مفید بودن قوانین روباتیک را ندارند، اما مرور آنها قطعا میتواند جالب باشد.
- هدف هوش مصنوعی نباید ایجاد هوشمندی بی سمت و سو باشد، این هوشمندی باید سودمند باشد.
- سرمایهگذاری باید در جهت تقویت آن دسته از فناوریهای هوش مصنوعی باشد که در زمینههایی مانند دانش اجتماعی، اخلاق، اقتصاد، دانش و علوم کامپیوتر سودمند باشند.
- باید تعامل و بده بستان سالمی بین پژوهشگران هوش مصنوعی و قانونگذران برقرار شود.
- در جامعه پژوهشگران هوش مصنوعی اعتماد، همکاری و شفافیت باید برقرار شود.
- هوش مصنوعی نباید برای مقاصد نژادپرستانه و سلطهجویانه مورد استفاده قرار گیرد.
- از ایمنی کاربردهای هوش مصنوعی باید اطمینان حاصل شود.
- دلایل نقایص احتمالی یک یک فناوری هوش مصنوعی باید به صورت شفاف اعلام شود.
- در تصمیمگیریهای حساس مثلا تصمیمگیریهای قضایی، تصمیم و پیشنهادات هوش مصنوعی حتما باید توسط یک کاربر انسانی تأیید شود.
- توسعهدهندگان هوش مصنوعی باید در قابل کاربردهای نادرست و سوء استفاده از فناوریشان مسئولیتپذیر باشند.
- هوش مصنوعی باید به ارزشها و آرمانهای بشریت وفادار باشد.
- تک تک مردم باید حق دسترسی، مدیریت و کنترل دیتایی که تولید میکنند و میتواند ماده خام پردازش سیستمهای هوشمند باشد را داشته باشند.
- محصولات هوش مصنوعی نباید به هیچ عنوان آزادیها و حریم خصوصی افراد را تحدید کنند.
- هوش مصنوعی باید در حد امکان تعداد بیشتری از مردم را پوشش بدهد و گستره سودرسانی وسیعی داشته باشد.
- منافع اقتصادی فناوریهای هوش مصنوعی باید بین همه انسانهای تقسیم شود.
- انسانهای باید همیشه و در همه وضعیتها، توانایی مداخله در تصمیمگیریهای الگوریتمهای هوش مصنوعی را داشته باشند.
- نباید به بهانههای واهی، امکان پیشرفت هوش مصنوعی را سد کرد.
- از مسابقه تسلیحاتی با استفاده از هوش مصنوعی باید اجتناب شود.
- در صورت نبود توافق عمومی، نباید محدودیت و حد بالایی برای پیشرفت هوش مصنوعی قائل شد.
- از انجا که هوش مصنوعی میتواند تاریخ را در روی زمین به راستی دگرگون کند، مدیریت آن باید با رعایت همه جوانب، اداره خردمندانه منابع و اطمینان از سلامت سیستمهای صورت بگیرد.
- خطرات احتمالی ناشی از هوش مصنوعی باید از قبل پیشبینی شوند و برنامههایی برای پرهیز از آنها وجود داشته باشند.
- سیستم هوشمند یکه توانایی ارتقای خودکار خودشان یا تکثیر خودکار خود را دارند باید با دقت تحت نظر باشند و مقررات کنترلی شدیدی برای آنها اعمال شود.
- ابرهوشمندی باید تحت ایدهآلهای اخلاقی مشترک توسعه پیدا کند و در خدمت بشریت باشد، نه اینکه در انحصار سازمان یا کشوری خاص باشد.
[ad_2]