Skip to content
All podcasts
C2 Technology 13:17 Easy Learn Podcast

Should We Fear Superintelligent Machines?

هل ينبغي أن نخاف من الآلات فائقة الذكاء؟

Some experts promise a golden age and others warn of disaster. An engineer and a philosopher separate the hype from the real risks of advanced artificial intelligence, and ask what intelligence even means.

بعض الخبراء يعدون بعصر ذهبي وآخرون يحذّرون من كارثة. يفصل مهندس وفيلسوفة بين الضجيج الإعلامي والمخاطر الحقيقية للذكاء الاصطناعي المتقدم، ويتساءلان عن معنى الذكاء أصلاً.

In this episode

  • Sara

    Host

  • James

    Host

  • Mazen

    a machine learning engineer from Jeddah who now works in Toronto

  • Fiona

    a philosopher from Dublin who advises organisations on technology ethics

Press play to listen

0:00 / 13:17

Chapters

Transcript · النص الكامل

Tap any line to listen from there.

  1. Sara

    Hello and welcome to Easy Learn Podcast! I'm Sara, and today's topic is one that makes some people very excited and keeps others awake at night.

    مرحباً بكم في بودكاست إيزي ليرن! أنا سارة، وموضوع اليوم يثير حماس بعضهم الشديد ويسهّد آخرين في الليل.

  2. James

    I'm James. We're asking whether we should fear superintelligent machines, meaning artificial intelligence that would be far cleverer than any human being in almost every field.

    أنا جيمس. نسأل اليوم هل ينبغي أن نخاف من الآلات فائقة الذكاء، أي ذكاء اصطناعي يفوق أي إنسان ذكاءً بكثير في كل المجالات تقريباً.

  3. Sara

    Our first guest is Mazen, a machine learning engineer from Jeddah who now works in Toronto, building exactly the kind of systems we'll be talking about.

    ضيفنا الأول مازن، مهندس تعلّم آلي من جدة يعمل الآن في تورونتو، ويبني تماماً النوع من الأنظمة التي سنتحدث عنها.

  4. James

    And joining him is Fiona, a philosopher from Dublin who advises organisations on the ethics and rules around technology. Welcome to you both.

    وتنضم إليه فيونا، فيلسوفة من دبلن تقدّم الاستشارات للمؤسسات حول أخلاقيات التقنية وقواعدها. أهلاً بكما.

  5. Mazen

    Thanks! I should say upfront that I'm an optimist by temperament, but a nervous optimist, the kind who still checks the stove twice before leaving the house.

    شكراً! يجب أن أقول منذ البداية إنني متفائل بطبعي، لكنني متفائل قلق، من النوع الذي يتفقد الموقد مرتين قبل مغادرة البيت.

  6. Fiona

    And I'm the one who worries professionally, although I like to think I worry about the right things, which are not always the things that make the headlines.

    وأنا من يقلق بحكم المهنة، مع أنني أحب أن أظن أنني أقلق من الأمور الصحيحة، وهي ليست دائماً ما يتصدر العناوين.

  7. James

    Brilliant, a nervous optimist and a professional worrier. That's the perfect panel.

    رائع، متفائل قلق وقلقة محترفة. هذه هي الندوة المثالية.

  8. Sara

    Let's begin with the word itself. Before we fear superintelligence, what do we actually mean by intelligence? Fiona, you're the philosopher, so I'm looking at you.

    لنبدأ بالكلمة نفسها. قبل أن نخاف من الذكاء الفائق، ماذا نعني فعلاً بالذكاء؟ فيونا، أنتِ الفيلسوفة، لذا أنظر إليكِ.

  9. Fiona

    Which is a polite way of saying I'll make it complicated! Roughly, intelligence is the ability to achieve goals across many different situations. A calculator is brilliant at one thing, but a child can learn almost anything. The difference is generality.

    وهذه طريقة مهذبة لقول إنني سأعقّد الأمر! تقريباً، الذكاء هو القدرة على تحقيق الأهداف في مواقف متنوعة كثيرة. الآلة الحاسبة بارعة في شيء واحد، أما الطفل فيستطيع تعلّم أي شيء تقريباً. والفرق هو العمومية.

  10. Mazen

    Right, and today's systems sit in a strange place. They can write essays, translate Arabic poetry and pass difficult exams, yet they sometimes make a mistake a six-year-old would never make. Researchers call that quality jagged.

    صحيح، والأنظمة الحالية في موضع غريب. تستطيع كتابة المقالات وترجمة الشعر العربي واجتياز امتحانات صعبة، ومع ذلك ترتكب أحياناً خطأً لا يرتكبه طفل في السادسة. ويصف الباحثون هذه الخاصية بأنها مسنّنة وغير متساوية.

  11. James

    Jagged intelligence. I like that. It's like a brilliant colleague who writes superb reports but cannot find the office kitchen.

    ذكاء غير متساوٍ. يعجبني ذلك. إنه مثل زميل لامع يكتب تقارير رائعة لكنه لا يستطيع العثور على مطبخ المكتب.

  12. Sara

    Ha! But does it matter whether a machine truly understands something, or only behaves as if it does?

    ها! لكن هل يهم أن تفهم الآلة شيئاً فهماً حقيقياً، أم أن تتصرف كما لو أنها تفهمه فقط؟

  13. Fiona

    To the philosopher in me, it matters enormously. To the person whose job is affected, it matters much less. If a system does the work convincingly, nobody stops to ask about its inner life.

    بالنسبة إلى الفيلسوفة في داخلي، يهم ذلك كثيراً. أما لمن تأثرت وظيفته فيهم أقل بكثير. إن أنجز النظام العمل بإقناع، فلن يتوقف أحد ليسأل عن حياته الداخلية.

  14. Sara

    So perhaps the debate is less about what machines are, and more about what we do with them.

    ربما يكون النقاش أقل ارتباطاً بما هي عليه الآلات، وأكثر ارتباطاً بما نفعله بها.

  15. Mazen

    I'd go further. When Deep Blue beat Garry Kasparov at chess in nineteen ninety-seven, people said real intelligence was safe because chess was only calculation. Then it was Go, then language. We keep moving the goalposts.

    بل أذهب أبعد من ذلك. حين هزم ديب بلو غاري كاسباروف في الشطرنج عام ألف وتسعمئة وسبعة وتسعين، قال الناس إن الذكاء الحقيقي بمأمن لأن الشطرنج مجرد حساب. ثم جاء دور لعبة غو، ثم اللغة. ونحن نواصل تحريك المرمى.

  16. James

    That's a great point. Whenever machines master something, we declare that it was never really intelligence in the first place.

    هذه نقطة ممتازة. كلما أتقنت الآلات شيئاً، أعلنّا أنه لم يكن ذكاءً حقيقياً أصلاً.

  17. Fiona

    True, but I'd resist the opposite mistake. Winning at Go is a narrow achievement. The program AlphaGo made a startling move against the champion Lee Sedol in twenty sixteen, yet it could not have made you a cup of tea or understood why the crowd gasped.

    صحيح، لكنني أقاوم الخطأ المعاكس. الفوز في لعبة غو إنجاز ضيق. فقد قام برنامج ألفاغو بحركة مذهلة ضد البطل لي سيدول عام ألفين وستة عشر، لكنه لم يكن ليستطيع إعداد كوب شاي لك أو فهم سبب شهقة الجمهور.

  18. Sara

    So the question is whether lots of narrow skills eventually add up to something general.

    إذن السؤال هو هل تتراكم مهارات ضيقة كثيرة لتصبح في النهاية شيئاً عاماً.

  19. Mazen

    That's the trillion-dollar question. Some of my colleagues think that scaling up what we already have will get us there. Others believe we need entirely new ideas. Honestly, nobody knows, and anyone who claims otherwise is probably selling something.

    هذا هو سؤال التريليون دولار. يعتقد بعض زملائي أن توسيع نطاق ما لدينا سيوصلنا إلى هناك. ويرى آخرون أننا نحتاج إلى أفكار جديدة كلياً. بصراحة لا أحد يعلم، ومن يدّعي غير ذلك ربما يبيع شيئاً ما.

  20. Sara

    I find that oddly comforting and slightly alarming at the same time. Fiona, does the uncertainty itself worry you?

    أجد ذلك مطمئناً ومقلقاً قليلاً في آن واحد. فيونا، هل يقلقك عدم اليقين نفسه؟

  21. Fiona

    It does, because uncertainty is exactly when careful planning matters. If you cannot rule out a risk, you prepare for it, much as we prepare for earthquakes without knowing the date.

    نعم، لأن عدم اليقين هو بالضبط الوقت الذي يهم فيه التخطيط الحذر. فإن لم تستطع استبعاد خطر ما فإنك تستعد له، كما نستعد للزلازل دون أن نعرف موعدها.

  22. James

    Speaking of selling, let's talk about hype. Every few months a headline announces that machines will soon outthink us. How much of that is marketing?

    بالحديث عن البيع، لنتحدث عن الضجيج الإعلامي. كل بضعة أشهر يعلن عنوان ما أن الآلات ستتفوق علينا في التفكير قريباً. كم من ذلك تسويق؟

  23. Fiona

    A good deal. Companies need investment, and a dramatic story attracts money. I'm a sceptic about the timelines, though not about the technology. People have predicted human-level machines within twenty years since the nineteen fifties.

    قدر كبير منه. تحتاج الشركات إلى الاستثمار، والقصة الدرامية تجذب المال. أنا متشككة في الجداول الزمنية، لا في التقنية نفسها. فمنذ خمسينيات القرن الماضي والناس يتنبؤون بآلات بمستوى الإنسان خلال عشرين عاماً.

  24. Mazen

    That's fair, so take any bold prediction with a pinch of salt. But I'd defend the optimists a little. Progress in the last decade has been faster than most experts expected. As a student, I thought a computer writing a coherent paragraph was decades away.

    هذا منصف، لذا خذوا أي تنبؤ جريء بقدر من التحفظ. لكنني سأدافع عن المتفائلين قليلاً. فالتقدم في العقد الأخير كان أسرع مما توقعه معظم الخبراء. حين كنت طالباً ظننت أن كتابة حاسوب فقرة متماسكة أمر يبعد عقوداً.

  25. Sara

    And now it writes my emails when I'm tired. Mazen, what are the upsides that make you optimistic?

    والآن يكتب رسائلي الإلكترونية حين أكون متعبة. مازن، ما الجوانب الإيجابية التي تجعلك متفائلاً؟

  26. Mazen

    Medicine is the big one. Systems already help doctors read scans more carefully, and some have accelerated research into how proteins fold, which could lead to new treatments. And a tutor that speaks Arabic patiently at midnight could transform education for students who cannot afford private lessons.

    الطب هو الأكبر. فالأنظمة تساعد الأطباء اليوم في قراءة الصور الطبية بدقة أكبر، وبعضها سرّع الأبحاث حول كيفية طي البروتينات، مما قد يقود إلى علاجات جديدة. ومعلم يتحدث العربية بصبر عند منتصف الليل قد يغيّر التعليم للطلاب الذين لا يستطيعون تحمل كلفة الدروس الخصوصية.

  27. James

    That's inspiring. But I suspect Fiona has a but ready.

    هذا ملهم. لكنني أظن أن لدى فيونا اعتراضاً جاهزاً.

  28. Fiona

    I have several, James! Here's the central one. Even if superintelligence is far away, we are already deploying powerful systems that few people fully understand, and we are using them in hiring, banking and schools.

    لدي عدة اعتراضات يا جيمس! وهذا هو الاعتراض الرئيسي. حتى لو كان الذكاء الفائق بعيداً، فإننا ننشر بالفعل أنظمة قوية لا يفهمها إلا قليلون فهماً كاملاً، ونستخدمها في التوظيف والمصارف والمدارس.

  29. Mazen

    I agree completely. The science-fiction scenario grabs attention, but the boring failures are happening today. Systems can sound extremely confident while making things up. We call that hallucinating.

    أوافق تماماً. سيناريو الخيال العلمي يلفت الانتباه، لكن الإخفاقات المملة تحدث اليوم. فالأنظمة قد تبدو واثقة جداً وهي تختلق الأشياء. ونسمي ذلك الهلوسة.

  30. Sara

    I've seen it do exactly that. It once gave me a very convincing quotation from a book that doesn't exist.

    لقد رأيته يفعل ذلك تماماً. أعطاني ذات مرة اقتباساً مقنعاً جداً من كتاب غير موجود.

  31. Fiona

    Which is amusing for a podcast host and serious for a lawyer or a doctor.

    وهذا طريف لمقدمة بودكاست وخطير على محامٍ أو طبيب.

  32. James

    What about the dramatic scenario, though? The idea of a machine that escapes human control. Some respected scientists take it seriously.

    لكن ماذا عن السيناريو الدرامي؟ فكرة آلة تفلت من السيطرة البشرية. بعض العلماء المحترمين يأخذونها على محمل الجد.

  33. Mazen

    They do, and I don't dismiss them. The core worry is not evil robots. It's a system that pursues the goal we gave it too literally. Philosophers describe a machine told to make paperclips that turns the entire world into paperclips.

    نعم، وأنا لا أستخف بهم. القلق الأساسي ليس الروبوتات الشريرة. بل نظام يسعى إلى الهدف الذي أعطيناه إياه بحرفية مفرطة. يصف الفلاسفة آلة طُلب منها صنع مشابك الورق فحوّلت العالم كله إلى مشابك ورق.

  34. Fiona

    A thought experiment, and a deliberately silly one. But the serious point is alignment: making sure a powerful system's goals truly match what humans value, including the unspoken rules we would never think to write down.

    تجربة فكرية، وسخيفة عن قصد. لكن النقطة الجادة هي المواءمة: التأكد من أن أهداف النظام القوي تطابق فعلاً ما يقدّره البشر، بما في ذلك القواعد غير المعلنة التي لن نفكر في كتابتها أبداً.

  35. James

    Isn't that the same problem as managing people? You tell a new employee to increase sales and discover he has been promising customers the moon.

    أليست هذه المشكلة نفسها في إدارة الناس؟ تطلب من موظف جديد زيادة المبيعات فتكتشف أنه كان يعد الزبائن بالقمر.

  36. Sara

    Funny, but the stakes with one employee are much smaller.

    طريف، لكن المخاطر مع موظف واحد أصغر بكثير.

  37. Fiona

    Exactly, Sara. The difference is scale and speed. A mistaken employee is a problem for one office, whereas a mistaken system can repeat its error a million times before lunchtime.

    بالضبط يا سارة. الفرق في الحجم والسرعة. موظف مخطئ مشكلة لمكتب واحد، أما نظام مخطئ فقد يكرر خطأه مليون مرة قبل موعد الغداء.

  38. Mazen

    And that is why my team treats every launch like a pilot's checklist. The cost of caution is a delay, but the cost of carelessness can be one mistake repeated everywhere.

    ولهذا يتعامل فريقي مع كل إطلاق كما يتعامل الطيار مع قائمة الفحص. كلفة الحذر هي تأخير، أما كلفة الإهمال فقد تكون خطأً واحداً يتكرر في كل مكان.

  39. James

    A pilot's checklist for software. I rather like that.

    قائمة فحص الطيار للبرمجيات. تعجبني هذه الفكرة كثيراً.

  40. Sara

    So what should we do about it? Is regulation the answer?

    إذن ماذا ينبغي أن نفعل؟ هل التنظيم القانوني هو الجواب؟

  41. Fiona

    Part of it. I'd like to see safety testing before release, the way we have for aeroplanes and cars, along with independent audits and clear responsibility when something goes wrong.

    جزء منه. أود أن أرى اختبارات سلامة قبل الإطلاق، كما هو الحال مع الطائرات والسيارات، إلى جانب تدقيق مستقل ومسؤولية واضحة حين يحدث خطأ.

  42. Mazen

    I support sensible rules, but I'd warn against rules written in a panic. If regulation is too heavy, only giant companies can afford to comply, and small teams in places like Riyadh, Cairo or Amman get squeezed out.

    أؤيد القواعد المعقولة، لكنني أحذّر من قواعد تُكتب في لحظة ذعر. فإذا كان التنظيم ثقيلاً أكثر من اللازم، لن تقدر على الامتثال إلا الشركات العملاقة، وتُقصى الفرق الصغيرة في أماكن مثل الرياض والقاهرة وعمّان.

  43. Fiona

    A fair concern. But the alternative, where a handful of companies decide for everyone, is hardly democratic. Safeguards needn't stifle innovation. Airlines became safer and bigger together.

    قلق وجيه. لكن البديل، أي أن تقرر حفنة من الشركات نيابة عن الجميع، بعيد عن الديمقراطية. ولا يلزم أن تخنق الضمانات الابتكار. فقد أصبحت شركات الطيران أكثر أماناً وأكبر حجماً معاً.

  44. James

    And the problem is global. If one country has strict rules and another has none, doesn't the work simply move?

    والمشكلة عالمية. إن كان لدى بلد قواعد صارمة ولم يكن لدى آخر أي قواعد، ألا ينتقل العمل ببساطة؟

  45. Mazen

    Which is why international cooperation matters, however slow it feels. We have managed it before, with aviation standards and with protecting the ozone layer. It is unprecedented in speed, but not in kind.

    ولهذا يهم التعاون الدولي مهما بدا بطيئاً. فقد نجحنا في ذلك من قبل، مع معايير الطيران وحماية طبقة الأوزون. إنه غير مسبوق في سرعته، لكنه ليس غير مسبوق في نوعه.

  46. Sara

    Do you both trust companies to police themselves?

    هل تثقان كلاكما بأن الشركات تراقب نفسها بنفسها؟

  47. Fiona

    Trust, but verify. Many engineers I meet are thoughtful and sincere, but they work under commercial pressure, and pressure beats good intentions more often than we like to admit.

    ثق، لكن تحقق. كثير من المهندسين الذين ألتقيهم متأملون وصادقون، لكنهم يعملون تحت ضغط تجاري، والضغط يتغلب على النوايا الحسنة أكثر مما نحب الاعتراف.

  48. Mazen

    I'd add that engineers like me should speak up more. On my team we run exercises where colleagues deliberately try to break the system before it launches. It's humbling how quickly they succeed.

    وأضيف أن على المهندسين أمثالي أن يتكلموا أكثر. في فريقي نجري تمارين يحاول فيها الزملاء عمداً كسر النظام قبل إطلاقه. ومن المتواضع للنفس أن ترى مدى سرعة نجاحهم.

  49. James

    There's something reassuring in that. Fear that leads to testing is useful fear.

    في هذا شيء مطمئن. الخوف الذي يقود إلى الاختبار خوف مفيد.

  50. Fiona

    It is, and other industries learned it slowly. Hospitals now report near-misses openly, because shame hides problems and openness fixes them.

    نعم، وقد تعلمته قطاعات أخرى ببطء. فالمستشفيات اليوم تبلغ عن الحوادث التي كادت تقع علناً، لأن الخجل يخفي المشكلات والانفتاح يصلحها.

  51. Sara

    What about ordinary people? Is there anything a listener in Riyadh or Cairo can do?

    وماذا عن الناس العاديين؟ هل هناك ما يستطيع مستمع في الرياض أو القاهرة فعله؟

  52. Fiona

    Stay curious and a little sceptical. Ask who built a tool, who benefits from it, and what happens when it's wrong. And keep your own skills sharp. Don't hand over your thinking entirely, especially while you're still learning.

    ابقوا فضوليين ومتشككين قليلاً. اسألوا من بنى الأداة ومن المستفيد منها وماذا يحدث حين تخطئ. وحافظوا على مهاراتكم حادة. لا تسلّموا تفكيركم كلياً، خصوصاً وأنتم ما زلتم تتعلمون.

  53. Mazen

    Exactly. Use these tools like a patient tutor, not like a replacement for your brain. Language is a good example: a translator can help, but only you will feel the joke in your own language.

    تماماً. استخدموا هذه الأدوات كمعلم صبور، لا كبديل عن عقولكم. واللغة مثال جيد: يستطيع المترجم أن يساعد، لكنك وحدك من سيشعر بالنكتة بلغتك.

  54. Fiona

    Teenagers especially should treat these systems like a training partner, not an elevator. If a machine does all your thinking, your own thinking never gets stronger.

    وعلى المراهقين خصوصاً أن يتعاملوا مع هذه الأنظمة كشريك تدريب لا كمصعد. فإن كانت الآلة تفكر عنك في كل شيء، فلن يقوى تفكيرك أبداً.

  55. James

    Which is a perfect moment to move to our language corner.

    وهذه لحظة مثالية للانتقال إلى ركن اللغة.

  56. Sara

    Three expressions from today. First, moving the goalposts. It means changing the rules or standards after someone has met them, so that success always seems out of reach. Mazen used it about our changing definition of intelligence.

    ثلاث عبارات من حلقة اليوم. أولاً، تحريك المرمى. وتعني تغيير القواعد أو المعايير بعد أن يحققها أحدهم، بحيث يبدو النجاح بعيد المنال دائماً. استخدمها مازن في حديثه عن تغيّر تعريفنا للذكاء.

  57. James

    Second, a pinch of salt. If you take something with a pinch of salt, you don't believe it completely. For example, you might take a bold advertising promise with a pinch of salt.

    ثانياً، قليل من الملح. فإن أخذت شيئاً بحبة ملح، فأنت لا تصدقه تماماً. مثلاً، قد تتلقى وعداً إعلانياً جريئاً بشيء من التحفظ.

  58. Fiona

    And third, hype. It means exaggerated publicity that makes something sound more exciting or important than it really is. A useful habit is to ask whether a headline is information or hype.

    وثالثاً، الضجيج الدعائي. ويعني دعاية مبالغاً فيها تجعل الشيء يبدو أكثر إثارة أو أهمية مما هو عليه. وعادة مفيدة أن تسأل هل العنوان معلومة أم ضجيج دعائي.

  59. Mazen

    I'd happily use all three in my next team meeting. Especially the first one.

    سأستخدم الثلاث بسعادة في اجتماع فريقي القادم. وخصوصاً الأولى.

  60. Sara

    Let's gather our thoughts. We asked whether we should fear superintelligent machines, and it seems the honest answer is to fear carelessness more than robots. Mazen, where do you land?

    لنجمع أفكارنا. سألنا هل ينبغي أن نخاف من الآلات فائقة الذكاء، ويبدو أن الجواب الصادق هو أن نخاف من الإهمال أكثر من الروبوتات. مازن، أين تستقر؟

  61. Mazen

    I remain a nervous optimist. The potential for medicine and education is enormous, but only if we test carefully, stay honest about our mistakes, and keep humans responsible for decisions that matter.

    ما زلت متفائلاً قلقاً. إمكانات الطب والتعليم هائلة، لكن بشرط أن نختبر بعناية، ونبقى صادقين بشأن أخطائنا، ونُبقي البشر مسؤولين عن القرارات المهمة.

  62. Fiona

    And I remain a cheerful worrier. I don't think the end of the world is around the corner, but I do think the quiet, everyday failures deserve far more attention than the dramatic headlines.

    وما زلت قلقة مرحة. لا أظن أن نهاية العالم قاب قوسين، لكنني أظن أن الإخفاقات الهادئة اليومية تستحق اهتماماً أكبر بكثير من العناوين الدرامية.

  63. James

    I'm somewhere in the middle. Fear is a poor guide, but so is blind enthusiasm. Curiosity with a healthy dose of scepticism seems about right. Thank you both for a thoughtful and funny conversation.

    أنا في الوسط تقريباً. الخوف دليل رديء، وكذلك الحماس الأعمى. يبدو أن الفضول مع جرعة صحية من الشك هو الموقف المناسب. شكراً لكما على حوار عميق وطريف.

  64. Mazen

    Thank you both. It is rare to disagree this politely, and I enjoyed every minute of it.

    شكراً لكما. من النادر أن نختلف بهذا القدر من التهذيب، وقد استمتعت بكل دقيقة.

  65. Sara

    Now a question for you, our listeners. If you could ask an all-knowing machine one question, what would it be, and would you trust the answer? Thank you for listening to Easy Learn Podcast, and goodbye for now!

    والآن سؤال لكم، مستمعينا الأعزاء. لو استطعتم أن تسألوا آلة تعرف كل شيء سؤالاً واحداً، فما هو، وهل ستثقون بالجواب؟ شكراً لاستماعكم إلى بودكاست إيزي ليرن، ومع السلامة الآن!

Key vocabulary · أهم الكلمات

  • superintelligence

    intelligence that is much greater than the best human minds

    ذكاء فائق
  • sceptic

    a person who doubts that something is true or will work

    متشكك
  • hype

    exaggerated publicity that makes something seem better than it is

    ضجيج دعائي
  • hallucinating

    when an AI system produces false information that sounds believable

    يهلوس (يختلق معلومات)
  • alignment

    making sure a system's goals match human values and intentions

    المواءمة
  • safeguards

    rules or protections that prevent harm

    ضمانات وإجراءات وقائية
  • moving the goalposts

    changing the standards for success after someone has met them

    تحريك المرمى (تغيير المعايير)
  • pinch of salt

    used in the phrase about not believing something completely

    بتحفظ (دون تصديق كامل)
  • narrow

    limited to one small area or task

    ضيق ومحدود
  • regulation

    official rules that control how something is done

    التنظيم القانوني
  • scaling up

    making something bigger or more powerful

    توسيع النطاق
  • unprecedented

    never having happened or existed before

    غير مسبوق

Did you understand?

اختبر فهمك للحلقة

Check your understanding

0 / 7 correct

أجب عن الأسئلة لتختبر فهمك للنص.

  1. 1.How does Fiona define intelligence?

  2. 2.What does Mazen mean when he says we keep moving the goalposts?

  3. 3.Why is Fiona a sceptic about the timelines for human-level machines?

  4. 4.According to Mazen, what is the core worry about out-of-control AI?

  5. 5.What worry does Fiona raise about systems that are already in use?

  6. 6.Why does Mazen warn against rules written in a panic?

  7. 7.What advice does Fiona give to ordinary listeners?

More C2 episodes