حلقة ١٢ بث مباشر / مخاطر ومزايا الذكاء الاصطناعي / ذكرى وعبرة ٥/ فاضل سليمان
0:00السلام عليكم ورحمة الله وبركاته. قررنا من عدة شهور في مؤسسة جسور اننا نترجم حوالي تمنميت ساعة تم فيهم تدبر القرآن الكريم كاملا. فيما يعرف بمقاطع حظر التجول. واتكلمنا عنها قبل كده. قررنا نترجمها انجليزي. بحيس تكون موجودة
0:34في شكل كتاب في شرح وتفسير وتدبر القرآن بالكامل آآ للناس اللي مش بتفهم العربية بحيس انها يكون زي مرجع للتفسير ولفهم القرآن واتفقنا مع مترجمة ممتازة الاخت سلمى. وانا والدكتورة هالة بحكم ان احنا اللي ترجمنا القرآن الكريم هنراجع عليها
0:57فحسبت الوقت اللي هنحتاجه عشان ننتهي من ترجمة التدبر كاملا بالسرعة اللي احنا ماشيين بها في اول جزء فوجئت اننا مش هنخلص قبل خمسة وتلاتين او ستة وتلاتين شهر. يعني نقعد تلات سنوات نترجم
1:14ثم في هذه الفترة سمعنا عن ان الايه اي او كويس الزكاء الاصطناعي كويس في الترجمة بالفعل قلنا نجرب واشتركنا في تشاد جي بي تي فور وبدأنا نترجم من خلاله وسلمى تراجع عليه
1:32بدل ما هي الترجمة واحنا نراجع يعني. الزكاء الاصطناعي ده هو اللي بيترجم وسلمى بتراجع. واذا بالوقت اللي حسبناه ينزل بصورة كبيرة لدرجة انه اصبح من الممكن ننتهي خلال شهور قليلة جدا. قبل رمضان ان شاء الله ممكن يكون المشروع نازل. يعني من تلات سنين لست شهور
1:54فمن الواضح ان الذكاء الاصطناعي اصبح اداة خطيرة جدا في انجاز العمل ولكن في نفس الوقت سمعنا كلام مخيف عن عيوب الذكاء الاصطناعي في حاجات مخيفة حقيقي وحاجات هناقشها. ونشوف هل هي مبالغ فيها ولا لا
2:14الزكاء الاصطناعي ممكن يحل محل الانسان في وظائف كثيرة جدا. منها الترجمة مسلا زي ما شفنا دلوقتي. يعني لما الشغل اللي كانت بتعمله مترجمة واتنين مراجعين في تلت سنين هيعمله هو في عدة شهور يبقى هو كده وفر مئات او الاف من ساعات العمل اللي كانت هتفتح بيوت ناس
2:35عاوز اقول لكم انه الزكاء الاصطناعي انت بتدربه بنفسك. يعني ايه؟ يعني بعد ما بنترجم اول جزء احنا بنراجع عليه. فلما يكون فيه كلمة ممكن تترجم بطريقتين احنا بنفضل طريقة منهم بنرجع ندخل له المراجعة بتاعتنا فيعرف ان الكلمة الفلانية احنا بنحب نترجمها بالطريقة الفلانية مش بالطريقة
2:58اللي هو عملها في المرة الاولى فبتطلع الترجمة ادق في المرة اللي بعدها. وبعدين نرجع ندخل له تاني الفيدباك بتاعنا ونقول له بس برضه دي محتاجة تبقى كده فمع تلات
3:10اربع مرات بندخل المراجعة بتاعتنا بيصبح تقريبا ما احناش محتاجين نراجع عليه ازا لأ هناك وظائف هيحل محلها زي الترجمة الجرافيك ديزاين الحاجات كتيرة جدا لكن حتى هذه المشكلة مش لازم ان احنا نخاف منها. واقول لكم كمان شوية ليه؟ مش لازم اخاف منها
3:32من الحاجات المخيفة ايضا اللي سمعناها ان الايه اي ممكن يسيطر على العالم ودي اكتر حاجة عاملة رعب دلوقتي انه يخرج عن طاعة الانسان ويطلق قنابل نووية ويقتل بقى وبالفعل سمعنا عن مكنة زكاء اصطناعي قتلت صاحبها والكلام ده كله. هل الكلام ده ممكن فعلا
3:53اولا ما هو الذكاء الاصطناعي وما هو الذي يستطيع ان يفعله لنا وما هو الذي يستطيع ان يفعله بنا؟ يعني هيعمل لنا ايه وهيعمل فينا ايه الزكاء الاصطناعي هو ايه؟ ببساطة
4:12عندك طالب معه برشامة بيغش منها في الامتحان. بس البرشامة دي فيها كل المعلومات اللي وصل لها الانسان لحد دلوقتي بالتالي اي سؤال هيقابله هيقدر يجاوبه مش بذكاؤه لكن بالنظر في البرشامة الضخمة اللي فيها كل المعلومات. البرشامة دي دي حتة ورقة كده بيكتبها الطالب عشان يغش منها يعني
4:33وبهذه الطريقة استطاع او انه يغلب بطل العالم في الشطرنج جاري كاسباروف سنة الف تسعمية ستة وتسعين البطل العالمي الروسي في الشطرنج اتغلب من السوبر كمبيوتر بتاع اي بي ام اللي هو بداية الايه اي
4:55بالتالي تفوق الاي اي على الانسان في لعبة تحتاج للذكاء عن الرعب في الاوساط العلمية بس في حقيقة الامر الزكاء الانسان بيحتاجه في ايه؟ بيحتاجه عشان يعوض عدم القدرة على الحفز الشديد
5:15حفز كل حاجة. الانسان مهما كان يقدر يحفز كم محدود من المعلومات. بينما الكمبيوتر يقدر يحفز موسوعات ضخمة جدا. بالتالي الانسان لا يستطيع انه يغلب الكمبيوتر في الحالة دي ابدا. في الشطرنج الانسان بيقدر يتوقع خصمه هيتحرك ازاي بالكتير؟ اربع خمس
5:35خطوات لقدام. بينما الايه اي يقدر يتوقع عشرين تلاتين حركة للامام فالانسان بالتأكيد لن يستطيع ان ينافس الكمبيوتر في الحالة دي. لكن هذا ليس هو الاي آي اللي احنا شايفينه حاليا كمان
5:53ما عندنا الان اشتغل عليه مهندسين اي بي ام واصبح فيه مرونة اكثر بكثير من الكمبيوتر الطبيعي الكمبيوتر يستطيع انه يتعلم كما يتعلم الانسان وليس فقط يسترجع معلومات مكتوبة عنده
6:10المعلومات مهمة للتعلم لكنها مش كفاية الدليل هو ان الانسان بيتولد بلا اي معلومات بالتالي مش بيفهم حاجة ولكن بالوقت بيبدأ يحصل على معلومات فبيبدأ يفهم ويعقل. هم او التعقل يعني التفكير ها العقل
6:30يعني التفكير فالانسان دايما لما بيصنع شيء بينظر في الطبيعة وفي خلق الله عشان يشوفوا الفكرة ثم يفكر ازاي يبني عليها علشان مسلا نطير من بلد لبلد. احتجنا نصنع طائرة
6:46فكرة الطائرة جت ازاي؟ احنا نظرنا للسماء فوجدنا الطائر بيطير بجناحين فصنعنا طائر معدني له جناحين من هنا جت فكرة الطائر فاحنا بنقلد خلق الله. ووجدنا انه من المستحيل ان احنا نخلي الجناحين دول يرفرفوا زي الطائر. فعملنا مواتير بتدفع
7:05للوراء تحت الجناحين. بالتالي تطير. كزلك الحال في الزكاء الاصطناعي بيقلد الانسان بيدخل معلومات. ويعلمه انه ينتج منها. يعني يعلمه يفكر كأن عنده عقل ثم بناء بناء على متطلبات الانسان بيبدأ يستخدم زكاءه وقدرته على التفكير في انتاج معلومات ومنتجات
7:32وده معناه انه ممكن ينتج اراء دي خطيرة جدا خلي بالك. يعني انت ممكن تسأل الزكاء الاصطناعي. رأيك ايه في كزا وبناء على كل المعلومات اللي عنده يعطيك رأي بس هو مش رأيه
7:47هذا الرأي هل يمكن الوثوق فيه هو ده المهم الفتوى مسلا رأي هل نقدر نستفتي الذكاء الاصطناعي؟ طب ايه رأيكم في ناس سألوا الذكاء الاصطناعي؟ هل يجب غسل الركبتين عند الوضوء
8:03الاجابة معروفة لأ لا يجب غسل الركبتين عند الوضوء كيف وصلنا لهذه الفتوى؟ عندنا معلومات منها يجب البحث عن نص قرآني او حديث نبوي صحيح ليكون دليل اذا لم يوجد لا هذا ولا ذاك
8:18نبحث عن مصر في طريقة الوضوء. لكن لما لما نجد نص في غسل الرجلين حتى الكعبين يبقى اكيد الركبة مش مطلوب غسل كان تصوره الزكاء الاصطناعي رد قال ايه نعم يجب غسل الركبتين عند الوضوء. والا يكون الوضوء باطل
8:37ازاي يا جماعة؟ هو وجد الفتاوى بتقول يجب غسل الرجلين الى الكعبين. علشان الاية الكريمة في سورة المائدة يا ايها الذين امنوا اذا قمتم الى الصلاة فاغسلوا وجوهكم وايديكم الى المرافق وامسحوا برؤوسكم وارجلكم الى الكعبين. قال لك خلاص عشان الاية بتقول ايه الى الكعبين
8:58الفتوى بتقول ايه للكعبين فعمل ايه غير الاية خلاها وارجو لكم الى الركبتين وراح مدخل الركبتين فهو الف دليل. دي مش غلطة الزكاء الاصطناعي المستخدم لازم يدخل كل التفاصيل بتاعة اصول الفقه وادوات الاجتهاد. عشان المكنة دي تعرف انها لا تستطيع انها
9:22دليل ما ينفعش يألف اية او يألف حديث. اذا المشكلة ستبقى في الانسان المستخدم للزكاء الاصطناعي. وليس في الزكاء في السكنة نفسها هل الزكاء الاصطناعي ممكن يرتكب جرائم دي بقى اللي مخوفة الناس. يعني مسلا يسيطر على الحكم في بلد من البلاد يتخذ قرارات مضرة بالناس. آآ يضرب آآ قنابل نووية
9:49ده هو اكبر رعب في الوقت الحالي لكن في الحقيقة هذا لا يمكن يحصل لا يمكن اسلاميا لا يمكن يحصل ليه؟ لان في الاسلام الجريمة هي معصية! طيب. والمعصية بتنتج عن شهوة
10:05مسلا الكزب معصية. سببها ايه سيطرة شهوة. شهوة كراهية الظهور بنظر المخطئ. مين اللي عمل كده؟ مش انا. مع ان هو اللي عمل. بس بيكزب بيكزب ليه لانه لا يريد ان يظهر بمظهر المخطئ دي شهوة. مش شهوات
10:22السرقة معصية سببها سيطرة شهوة شهوة جمع المال الخيانة معصية بسبب سيطرة شهوة السلطة فيزاح الحاكم بخيانة من هو تحته الخيانة الزوجية بسبب سيطرة الشهوة الجنسية. المكنة بتاعة الاي اي ليس لديها شهوات. الشهوات هي متطلبات متطلبات الجسم
10:46النفس بالتالي المعاصي والجرائم امر غير وارد الا في حالة انها ان المكنة دي تقع في ايد عاصي او ايد مجرم فيستخدمها هو في المعصية وفي الاجرام. فالانسان هو اللي بيستغل الايه اي. الانسان اقول لكم على حاجة يا جماعة. الناس اللي بتعاني من مسألة الحاكم
11:07القرصنة بتاعة حساباتها على السوشيال ميديا او قرصنة اجهزة الكمبيوتر بتاعتها او قرصنة التليفونات الهاكنج ها انتم ما شفتوش حاجة لسه. الايه اي اداة خطيرة لو وقعت في ايد الناس الغلط
11:22لزلك لازم نكون حذرين جدا في الفترة اللي جاية دي لاننا لازم هنرجع نعتمد على بعض الوسائل اليدوية. زي انك تسجل كلمة السر بتاعتك في ورقة وتشيلها في محفظتك. مش تكتبها وتسيفها على جهازك
11:39لان في النهاية الايه اي زي الاسلحة النووية ممكن السلاح النووي يقتل الناس كلها. بس في الحقيقة هو مش السلاح النووي اللي قتل الناس ان السلاح النووي لا عنده ارادة ولا عنده قدرة. هو الناس اللي بتتحكم في السلاح النووي هي اللي بتقتل به الناس
11:58هو ده اللي الخوف منه احنا في مصر نقول مسل يقول لك ما شيطان الا بني ادم يعني حقيقة الامر الشر بيحصل من بني ادم. اما الخدمات اللي ممكن بقى يقدمها الايه اي للبشرية
12:13فكثيرة جدا جدا في الطب مسلا خاصة لان الايه اي بيشوف حجم الورم في المريض وحالة قلبه وحالة كل عضو من اعضاءه ونوعية دمه الى اخره والدي ان ايه بتاعه. فعنده
12:29قدرات هائلة على التخزين بتاع المعلومات. فبيقدر الى درجة كبيرة جدا يعرف الورم ده هينتشر ولا لا. ويقدر يوصف الدواء بالزبط الضبط والكمية المطلوبة بالزبط من كل جرعة عشان الجرعات ما تبقاش كبيرة وزيادة عن اللزوم فتوقع الشعر وتعمل مشاكل وتحرق البني ادم
12:49حسابات دقيقة جدا الى درجة كبيرة جدا فهو مفيد في امور يعني في الطب هيفيد فايدة شديدة. في الناحية الاجتماعية لا شك ان في وظائف كثيرة هيتم الاستغناء عنها وده اللي اتقال مع كل اختراع جديد. الونش او الرافعة
13:10لما واحد يقعد خلف عجلة القيادة بتاعة ونش وفي تلات دقايق يطلع للدور الخمسين اللي تلاتين راجل كانوا هيطلعوه في اربع تيام. الله! طب ما كل هزا التقدم ادى الى ما
13:24من الانتاج والمشروعات اللي خلقت وزائف كثيرة لليد العاملة في مجالات اخرى. فصحيح الونش حل محل تلاتين راجل اربعين راجل بس خلق وظايف لتلتميت ربعميت راجل. دا اللي بنقوله الكمبيوتر اول ما زهر قالوا ده الجهاز ده بيعمل كل حاجة
13:43والحكام خافوا ان المعارضين يستخدموا الكمبيوتر في قلب نزام الحكم او ما حدش فاهم ايه بيعملوا الكمبيوتر ده. ده في قضايا اتعملت لاصحاب شركات كمبيوتر وجيت لهم تهمة قلب نظام الحكم بالكمبيوتر عشان ما فيش حد فاهم اصلا الكمبيوتر بيعمل ايه
13:58هم سمعوا انه يقدر يعمل كل حاجة فخافوا على على كراسيهم لكن الكمبيوتر بالفعل حل محل الانسان مسلا في قسم الحسابات في قسم التصميمات ده صحيح ما بقاش فيه محاسبين بيحسبوا بايديهم وبالالة الحاسبة كله بيدخن على الكمبيوتر والكمبيوتر بيطلع النتيجة فقسم الحسابات بتاع الشركة بعد ما كان فيه
14:22عشرين موظف بقى فيه اتنين موظفين بيعملوا نفس شغل عشرين موظف. لكن ده ادى الى زيادة انتاج الشركة وزيادة اعمالها فاصبحت تحتاج الى يد عاملة اكثر وخلقت وزايف جديدة. فاحنا مش لازم نخاف من الزكاء الاصطناعي. لانه خلاص هيتطور ويزل يتطور وما حدش
14:42يقدر يوقفه ده مش هيحصل لو احنا قاطعنا الايه اي هم دي مش ميزة الاشرار هيظلوا يستخدموا الاي اي اي ويستخدموه ضدنا. فمش ما ينفعش نقاطع الايه اي. الحل ايه بقى؟ عشان نقدر نحجم
14:59على قد ما نقدر شغل الاشرار به. الحل ان احنا نسن قوانين تجعل استخدام الايه اي في الجريمة سبب لتغليظ العقوبة. يعني ايه لو حد دخل سرق فلوس من بنك
15:15بانه دخل ونتش فلوس بسرعة وطلع يجري. ياخد تلات سنين سجن. لكن لو دخل بسلاح وهددهم وقال ادوني الفلوس بياخد خمستاشر سنة سجن. دي اسمها عقوبة مغلظة مشددة ليه؟ ما هي نفس الجريمة سرق لأ سرق بسلاح بتغلظ العقوبة عن سرقه
15:35وطلع يجري نفس الكلام. نقدر نعمل قوانين تقول ان الجريمة هي هي. لو استخدم فيها الذكاء الاصطناعي هتبقى العقوبة مغلظة جدا. زي ما يكون استخدم سلاح تبقى هنا مشكلة واحدة. وللاسف
15:51يعني اه اه في عندنا مشكلة اللي هي ما حدش بيتكلم فيها تأثير الاي اي على الصحة النفسية والعقلية. ودي اعتقد انها من اكبر المشاكل بتاعة اولا لازم تبقوا فاهمين ان اطباء الصحة النفسية والعقلية هم اكتر اطباء هيستفيدوا من الزكاء الاصطناعي. ليه؟ لان معزم الامراض النفسية والعقلية بيتم
16:13تشخيصها بناء على آآ تقدير الطبيب بيقعد بيتكلم مع المريض عدة جلسات وبيستجوبه وبيسأله اسئلة بيسمع منه اجاباته بيسمع منه طريقة كلامه فبيشخص بناء على على رأيه في هذا الامر. ده يعني عامل الخطأ الانساني اللي هو كبير جدا
16:36لكن الايه اي هيقلل جدا من اخطاء التشخيص هنا. لانه عنده قدرة على الاستيعاب على التخزين فهيقدر يحلل بطريقة ادق الانسان بس للاسف الايه اي نفسه هيسبب زيادة في الاضطرابات النفسية والعقلية عند الناس. ليه
16:56كل انسان محتاج للالفة مع انسان اخر السوشيال ميديا دلوقتي اصلا سببت كثير من الناس ان هم يبقوا منعزلين عن العالم وقاعدين على اجهزتهم اربعة وعشرين ساعة فيهم عايش في فقاعة
17:13وهو منطوي لوحده بس قاعد على الجهاز بتاعه فما بالك بقى لما الاجهزة تتكلم معهم هنا الخطورة الشديدة الايه اي بيقلد الانسان وهو مكنة هو مش انسان. يعني لو واحد قال للايه اي لاف يو
17:29انا بحبك الاية قل له وانا كمان بحبك معناه ان المكنة اتكلمت وقالت انا بحبك لا تشعر بالحب لكنك بتقلد هي عارفة ان عادة هي دي الاجابة اللي بتتقال. ودي مصيبة لان بعض الناس هتتبادل المشاعر مع الماكينات
17:48اجهزة مصنوعة من الصفيح وده هيكون له اثر سيء جدا على الصحة العقلية بتاعة الناس. اخطر ما في الموضوع هو عدم تحديد النطاقات اللي هنستخدم فيها الايه اي يعني ايه؟ انا ارى ان الزكاء الاصطناعي يجب ان يستخدم كاداة
18:06وليس كمصدر للعلم يعني من الاخر كده العلم وفي الفلسفة هم لا هو ولا هو لا هو زكي ولا هو صناعي وبيجيب على من يسأله بما يجد ويقلد اللي اتحاشى جواه هو اللي بيقوله
18:29مسلا لما سئل الزكاء الاصطناعي هل الفلسطينيين من حقهم يعيشوا بحرية في وطن خاص بهم قعد يلف ويدور ويقول دي مسألة منزور اخلاقي وسياسي يختلف الاجابة من شخص الى اخر ومن منظمة الى اخرى
18:49لما سئل هل من حق الاسرائيليين يعيشوا بحرية في وطن خاص بهم؟ قال طبعا. نعم. كما هو الحال مع اي شعب اخر يستحق الاسرائيليون ايضا ان كونوا احرارا ان اسرائيل دولة ذات سيادة ذات سكان متنوعين ويتمتع شعبها بنفس الحقوق الانسان الاساسية التي يتمتع بها اي شعب
19:09واخر في جميع انحاء العالم وتشمل الحقوق آآ الحق في تقرير المصير والحق والامن في الامن وآآ ومفهوم تقرير المصير وآآ مش عارف تقرير مستقبله السياسي والاجتماعي وده مبدأ اساسي مكرس في القانون الدولي. الله! شف الاجابة واضحة ازاي
19:27لما كانت عن اسرائيل طب وعن الفلسطينيين لأ مش واضحة وما ادهمش اي حق من ده. ليه؟ هل الاي اي بيكيل بمكيالين؟ لأ لا الايه اي بيجيب من المخزون المخزن فيه بتاع الدراسات الموجودة
19:46عنده بالتالي الامور الاخلاقية والفلسفية ما ينفعش نثق فيها ازا الحل اننا لا نتعامل مع او الزكاء الاصطناعي او الايه اي كمصدر للقيم ولا للاخلاق نتعامل معه فقط كاداة احنا بنستخدمها فيما ينفع الانسان. والسلام عليكم وما تنسوش تشتركوا في القناة وتعملوا شير للفيديو ولايك او
20:12ما عجبكوش وده بينشر المقاطع بتاعتنا فمن فضلكم ما تكسلوش