اعرف معنا معنى الذكاء الاصطناعي
إن كل ما نحبه بشأن الحضارة يعتبر نتاجًا للذكاء،
لهذا فإن تدعيم الذكاء البشري بالذكاء الاصطناعي من الجائز أن يعين على ازدهار الحضارة
بأسلوب غير مسبوقة، ما دمنا قادرين على جعل تلك التكنولوجيا ذات جدوى”.
ماكس تيجمارك، قائد معهد مستقبل الحياة
ما هو الذكاء الاصطناعي:
حقق الذكاء الاصطناعي تقدمًا عظيمًا بدءًا
من خدمة “سيري” إلى المركبات ذاتية القيادة مثل تسلا.
وبصرف النظر عن أن الخيال العلمي غالبًا ما يصور الذكاء الاصطناعي على نحو رجل آلي ذي مواصفات مشابهة للإنسان، سوى أنه من الجائز أن يشمل أي شيء بدءًا من خوارزميات قوقل للبحث ونظام واتسون التابع لشركة آي بي إم وحتى الأسلحة ذاتية التشغيل.
وبصرف النظر عن أن الخيال العلمي غالبًا ما يصور الذكاء الاصطناعي على نحو رجل آلي ذي مواصفات مشابهة للإنسان، سوى أنه من الجائز أن يشمل أي شيء بدءًا من خوارزميات قوقل للبحث ونظام واتسون التابع لشركة آي بي إم وحتى الأسلحة ذاتية التشغيل.
يُعرف الذكاء الاصطناعي هذا النهار بالذكاء
الاصطناعي المقيد (أو الهزيل)، وهذا لأنه صُمم لتطبيق هامة مقيدة (على طريق المثال:
التعرف على الوجه أو البحث في الإنترنت أو قيادة المركبة)، ومع هذا فإن المقصد طويل
النطاق لدى العديد من الباحثين هو تصميم ذكاء مصطنع عام (أو قوي).
وفي حين أن الذكاء الاصطناعي المقيد قد يتفوق على الإنسان في مهمته الخاصة مثل لعب الشطرنج أو حل المعادلات، فإن الذكاء الاصطناعي العام يتفوق على الإنسان تقريبًا في كل هامة إدراكية.
وفي حين أن الذكاء الاصطناعي المقيد قد يتفوق على الإنسان في مهمته الخاصة مثل لعب الشطرنج أو حل المعادلات، فإن الذكاء الاصطناعي العام يتفوق على الإنسان تقريبًا في كل هامة إدراكية.
لماذا تُجرى بحوث أمن الذكاء الاصطناعي:
يحث مقصد إبقاء نفوذ الذكاء الاصطناعي نافعًا
في النطاق القريب إلى فعل البحوث في الكثير من الميادين، بدءًا من الاستثمار والقانون
إلى الأمور التكنولوجيا مثل التأكد وإثبات الشرعية والأمن والتحكم.
وفي حين أن توقف حاسوبك المحمول أو اختراقه يشكل مصدر إزعاج طفيف فإن المسألة ستصبح أكثر أهمية وجدّية أكثر حين تتعلق باستجابة نسق الذكاء الاصطناعي لما تريده منه بدقة، لو كان يسيطر على سيارتك أو طائرتك أو جهاز ترتيب ضربات الفؤاد أو سيستم التبادل الآلي أو شبكة الكهرباء.
ومن التحديات الأخرى على النطاق القصير هي حظر حدوث سباق تسلح مدمر بالأسلحة ذاتية التشغيل.
وفي حين أن توقف حاسوبك المحمول أو اختراقه يشكل مصدر إزعاج طفيف فإن المسألة ستصبح أكثر أهمية وجدّية أكثر حين تتعلق باستجابة نسق الذكاء الاصطناعي لما تريده منه بدقة، لو كان يسيطر على سيارتك أو طائرتك أو جهاز ترتيب ضربات الفؤاد أو سيستم التبادل الآلي أو شبكة الكهرباء.
ومن التحديات الأخرى على النطاق القصير هي حظر حدوث سباق تسلح مدمر بالأسلحة ذاتية التشغيل.
يواجهنا تساؤل مهم على النطاق البعيد وهو ماذا
سيقع إذا نجح تقصي نسق الذكاء الاصطناعي الشديد، وأصبح أجود من الإنس في جميع المهمات
الإدراكية.
نوه عالم الرياضيات (إيرفينج جود) في عام 1965 إلى إن تصميم أنظمة ذكاء مُصتنع أكثر ذكاءً يعد بحد نفسه هامة معرفية، فمن الجائز أن تكون تلك الأنظمة قادرة على التقدم ذاتيًا بصورة مكررة محدثةً بهذا (تفجرًا في الذكاء) بحيث يتفوق على الذكاء البشري بمراحل مختلفة”.
وبتطوير تقنيات ثورية حديثة يمكن لمثل ذلك الذكاء الاصطناعي الخارق أن يساعدنا في القضاء على الحروب والأمراض والفقر، ولذا فإن تصميم ذكاء مُصتنع قوي يمكن أن يعتبر الحدث الأضخم في تاريخ البشرية، سوى أن بعض أهل الخبرة أعربوا عن قلقهم في أن ذلك الإطار سوف يكون الحدث الأخير مالم نتعلم مناسِبة مقاصد نسق الذكاء الاصطناعي مع أهدافنا قبل أن يصبح خارقًا.
نوه عالم الرياضيات (إيرفينج جود) في عام 1965 إلى إن تصميم أنظمة ذكاء مُصتنع أكثر ذكاءً يعد بحد نفسه هامة معرفية، فمن الجائز أن تكون تلك الأنظمة قادرة على التقدم ذاتيًا بصورة مكررة محدثةً بهذا (تفجرًا في الذكاء) بحيث يتفوق على الذكاء البشري بمراحل مختلفة”.
وبتطوير تقنيات ثورية حديثة يمكن لمثل ذلك الذكاء الاصطناعي الخارق أن يساعدنا في القضاء على الحروب والأمراض والفقر، ولذا فإن تصميم ذكاء مُصتنع قوي يمكن أن يعتبر الحدث الأضخم في تاريخ البشرية، سوى أن بعض أهل الخبرة أعربوا عن قلقهم في أن ذلك الإطار سوف يكون الحدث الأخير مالم نتعلم مناسِبة مقاصد نسق الذكاء الاصطناعي مع أهدافنا قبل أن يصبح خارقًا.
هناك من يشكك في فرصة تقصي سيستم ذكاء مُصتنع
قوي، وهناك آخرون يؤكدون على أن النفع من تصميم نسق خارق غير مؤكدة، ونحن في معهد مستقبل
الحياة نُقِر بكلا الاحتمالين، لكننا ندرك أيضًا إمكانية أن يسبب الذكاء الاصطناعي
ضررًا هائلًا سواء كان بصورة مقصودة أو غير مقصودة، ونؤمن بأن البحث في الحاضر سيساعدنا
في التحضير لمثل تلك النتائج السلبية المحتملة في المستقبل ومنعها، وبهذا نستطيع التمتع
بمزايا الذكاء الاصطناعي وتجنب مخاطره في نفس الوقت.
كيف يمكن أن يشكل الذكاء الاصطناعي خطيرًا:
يتفق أكثرية الباحثين على أنه من غير المرجح
أن يستطيع الذكاء الاصطناعي الخارق من توضيح المشاعر الإنسانية كالحب أو الكره، وأنه
ليس هناك أي داع لنتوقع أن يكون الذكاء الاصطناعي مفيدًا أو مؤذيًا بصورة مقصودة.
عوضاً عن هذا يأخذ أهل الخبرة السيناريوهين التاليين بعين الاعتبار نحو البصر في الأسلوب التي يمكن أن يصبح فيها الذكاء الاصطناعي خطرًا:
عوضاً عن هذا يأخذ أهل الخبرة السيناريوهين التاليين بعين الاعتبار نحو البصر في الأسلوب التي يمكن أن يصبح فيها الذكاء الاصطناعي خطرًا:
1. أن الذكاء الاصطناعي بُرمج لتطبيق أشياء
مدمرٍة
الأسلحة ذاتية التشغيل هي أنظمة ذكاء مُصتنع
بُرمجت للقتل، فإذا وقعت في يد الفرد الخطأ يمكن أن تكون السبب بسهولة في مقتل الكثيرين.
وعلاوة على هذا، يمكن لسباق التسلح بأنظمة الذكاء الاصطناعي أن يؤدي على نحو غير مقصود إلى سقوط حربٍ بين أنظمة الذكاء الاصطناعي فتؤدي إلى وقوع الكثير من الضحايا.
ولتجنب الإعاقة من قبل العدو، صممت ذلك الأسلحة لأجل أن يكون إيقافها عسيرًا وهكذا قد يفقد الإنسان الهيمنة عليها.
يكمن ذلك الخطر حتى مع أنظمة الذكاء الاصطناعي المقيدة أو الضعيفة، ويمكن أن يزيد مع مبالغة مستوى الذكاء في الأنظمة وغلاء التحكم الذاتي.
وعلاوة على هذا، يمكن لسباق التسلح بأنظمة الذكاء الاصطناعي أن يؤدي على نحو غير مقصود إلى سقوط حربٍ بين أنظمة الذكاء الاصطناعي فتؤدي إلى وقوع الكثير من الضحايا.
ولتجنب الإعاقة من قبل العدو، صممت ذلك الأسلحة لأجل أن يكون إيقافها عسيرًا وهكذا قد يفقد الإنسان الهيمنة عليها.
يكمن ذلك الخطر حتى مع أنظمة الذكاء الاصطناعي المقيدة أو الضعيفة، ويمكن أن يزيد مع مبالغة مستوى الذكاء في الأنظمة وغلاء التحكم الذاتي.
2. أن الذكاء الاصطناعي بُرمج لتطبيق أشياء
نافعة ولكنه يطور طرق مدمرةً للوصول إلى هدفه
يمكن أن يصدر ذلك متى ما أخفقنا في مناسِبة أهدافنا مع أهدافه بشكل
إجمالي، ويعتبر هذا أمرًا عسيرًا.
فإذا طلبت من عربة ذاتية القيادة أن تأخذك إلى مهبط الطائرات في أسرع ما يمكن، يمكن أن توصلك إلى هناك بعد مطاردات مع الطائرات المروحية وبعد أن تصيبك بالغثيان نتيجة لـ سرعتها، ويتضح هنا أنها لم تفعل ما أردته ولكنها نفذت ما طلبته منها على نحوٍ حرفي.
إذا تمّ توظيف نسق خارق الذكاء بمشروع أمنية في الهندسة الجيولوجية، فيمكن له أن يؤثر سلبًا على نظامنا البيئي كأثر جانبي، ويمكن أن يشاهد مسعى الإنسان لإيقافه خطرًا يلزم مواجهته.
فإذا طلبت من عربة ذاتية القيادة أن تأخذك إلى مهبط الطائرات في أسرع ما يمكن، يمكن أن توصلك إلى هناك بعد مطاردات مع الطائرات المروحية وبعد أن تصيبك بالغثيان نتيجة لـ سرعتها، ويتضح هنا أنها لم تفعل ما أردته ولكنها نفذت ما طلبته منها على نحوٍ حرفي.
إذا تمّ توظيف نسق خارق الذكاء بمشروع أمنية في الهندسة الجيولوجية، فيمكن له أن يؤثر سلبًا على نظامنا البيئي كأثر جانبي، ويمكن أن يشاهد مسعى الإنسان لإيقافه خطرًا يلزم مواجهته.
وكما توضح الأمثلة الفائتة، فإن التوتر ليس
بشأن خبث أنظمة الذكاء الاصطناعي، ولكن يرتبط الشأن بكفائتها.
سوف يكون الذكاء الاصطناعي خارق الذكاء ومتمكنًا جدا من تقصي أهدافه، فإن قد كانت تلك الغايات لا تتماشى مع أهدافنا، عندها سنواجه المشكلات.
دعنا نوضح ما نعنيه في مثال، لنقل أنك لست حاقدًا على النمل ولا تسعى دعسهم، بل إذا كنت مسؤولًا عن مشروع للطاقة الكهرومائية صديقة للبيئة وقد كانت هناك مستعمرة نمل في الموقع الذي سينشأ عليه المشروع، عندها سيضر تأسيس ذلك المشروع بالنمل جدًا . لهذا فإن مقصد بحوث أمن الذكاء الاصطناعي هو عدم وضع البشرية مقر ذلك النمل.
سوف يكون الذكاء الاصطناعي خارق الذكاء ومتمكنًا جدا من تقصي أهدافه، فإن قد كانت تلك الغايات لا تتماشى مع أهدافنا، عندها سنواجه المشكلات.
دعنا نوضح ما نعنيه في مثال، لنقل أنك لست حاقدًا على النمل ولا تسعى دعسهم، بل إذا كنت مسؤولًا عن مشروع للطاقة الكهرومائية صديقة للبيئة وقد كانت هناك مستعمرة نمل في الموقع الذي سينشأ عليه المشروع، عندها سيضر تأسيس ذلك المشروع بالنمل جدًا . لهذا فإن مقصد بحوث أمن الذكاء الاصطناعي هو عدم وضع البشرية مقر ذلك النمل.
ما داع الانتباه مؤجلًا بأمن الذكاء الاصطناعي
:
عبر ستيفن هوكينج وإلون مسك وستيف ووزنيك وبيل
غيتس وآخرون من كبار علماء التكنولوجيا والعلوم مرجأًا عن قلقهم بشأن مخاطر الذكاء
الاصطناعي في الإعلام وعبر المراسلات المفتوحة المرتبطة بمخاطر الذكاء الاصطناعي، كما
شاركهم الكثير من الباحثين الرائدين في ذلك الميدان.
لماذا ظهر ذلك الموضوع فجأة في العناوين الأساسية؟
لماذا ظهر ذلك الموضوع فجأة في العناوين الأساسية؟
قد كانت فكرة فوز البحث عن سيستم ذكاء مُصتنع
قوي يُنظر إليها باعتبارها خيالًا علميًا لا يمكن تحقيقها سوى بعد العديد من قرون.
ومع هذا وبفضل التقدمات الجديدة، تم التوصل إلى مستوى كان يشاهده أهل الخبرة قبل خمس أعوام بأنه لا يمكن تحقيقه سوى بعد قرون، الأمر الذي جعل الكثير منهم يتنبأ جديًا احتمالية الوصول إلى الذكاء الفائق في حياتنا.
وبالرغم من أن بعض أهل خبرة الذكاء الاصطناعي ما زالوا يعتقدون بأن التوصل إلى نسق ذكاء مُصتنع بمستوى ذكاء الإنس لن يتحقق سوى بعد قرون عديدة، سوى أن أكثرية أهل خبرة الذكاء الاصطناعي في اجتماع بورتو ريكو المنعقد في عام 2015 توقعوا فرصة حدوث ذلك الشأن قبل عام 2016. ولأننا نتطلب إلى عقود لإكمال البحث في الأمن المطلوب، فيجب علينا البدء هذه اللحظة.
ومع هذا وبفضل التقدمات الجديدة، تم التوصل إلى مستوى كان يشاهده أهل الخبرة قبل خمس أعوام بأنه لا يمكن تحقيقه سوى بعد قرون، الأمر الذي جعل الكثير منهم يتنبأ جديًا احتمالية الوصول إلى الذكاء الفائق في حياتنا.
وبالرغم من أن بعض أهل خبرة الذكاء الاصطناعي ما زالوا يعتقدون بأن التوصل إلى نسق ذكاء مُصتنع بمستوى ذكاء الإنس لن يتحقق سوى بعد قرون عديدة، سوى أن أكثرية أهل خبرة الذكاء الاصطناعي في اجتماع بورتو ريكو المنعقد في عام 2015 توقعوا فرصة حدوث ذلك الشأن قبل عام 2016. ولأننا نتطلب إلى عقود لإكمال البحث في الأمن المطلوب، فيجب علينا البدء هذه اللحظة.
لأن الذكاء الاصطناعي يملك القدرة لأن يكون
أذكى من أي إنسان، فليس لدينا أي أداة مضمونة لنتنبأ عن أسلوب تصرفه.
لا نستطيع استعمال التقدمات التكنولوجية الفائتة المطورة كقاعدة أساس، لأنه لم يسبق لنا أن طورنا أي شي له التمكن من أن يكون أذكى منا سواء كان هذا عن غاية أو عن غير غاية.
لا نستطيع استعمال التقدمات التكنولوجية الفائتة المطورة كقاعدة أساس، لأنه لم يسبق لنا أن طورنا أي شي له التمكن من أن يكون أذكى منا سواء كان هذا عن غاية أو عن غير غاية.
يتمثل موقف معهد مستقبل الحياة في أن حضارتنا
سوف تزدهر ما دام تمكنا من الفوز في السباق بين قوة التكنولوجيا المتنامية وبين الحكمة
في إدارتها.
وفي ما يرتبط بتقنية الذكاء الاصطناعي، فإن أمثل أداة لفوز السباق ليست إعاقة التكنولوجيا، لكن بتعجيل الحكمة في إدارتها وهذا عبر دعم بحوث أمن الذكاء الاصطناعي.
وفي ما يرتبط بتقنية الذكاء الاصطناعي، فإن أمثل أداة لفوز السباق ليست إعاقة التكنولوجيا، لكن بتعجيل الحكمة في إدارتها وهذا عبر دعم بحوث أمن الذكاء الاصطناعي.