شكر خاص لمورغان بيلر، خوان بينيت، إلي دورادو، كارل فلورش، سريرام كريشنان، نيت سواريس، جان تالين، فنسنت وايسر، متطوعو بالفي وغيرهم على التغذية الراجعة والمراجعة.

في الشهر الماضي ، نشر مارك أندرسن كتابه "البيان التفاؤلي التكنولوجي“, دافعاً عن حماس متجدد بشأن التكنولوجيا، وعن الأسواق والرأسمالية كوسيلة لبناء تلك التكنولوجيا ودفع البشرية نحو مستقبل أكثر إشراقاً بكثير. يرفض المناشد بشكل واضح ما يصفه بأنها ideoloجيا الركود، التي تخشى التقدم وتعطي الأولوية للحفاظ على العالم كما هو اليوم. لقد نالت هذه النداءات اهتماماً كبيراً، بما في ذلك مقالات ردود الفعل مننوح سميث, روبن هانسون, جوشوا جانس(أكثر إيجابية)، وDave Karpf, لوكا روبيك, Ezra Klein(أكثر سلبية) وغيرهم كثيرون. غير مرتبطة بميثاق هذا، ولكن على طول نفس المواضيع، هناك جيمس بيثوكوكيس " المحافظ المستقبليو" بالاديوم " وحان الوقت للبناء من أجل الخير“. وفي هذا الشهر، شهدنا نقاشا مماثلا تم سنه من خلال نزاع OpenAI, التي تضمنت العديد من المناقشات المتمحورة حول مخاطر الذكاء الاصطناعي الفائق وإمكانية أن تتحرك OpenAI بسرعة كبيرة جدًا.

مشاعري الخاصة حول التفاؤل التكنولوجي دافئة ، لكنها دقيقة. أنا أؤمن بمستقبل أكثر إشراقا من الحاضر بفضل التكنولوجيا التحويلية الجذرية ، وأؤمن بالبشر والإنسانية. أنا أرفض العقلية القائلة بأن أفضل ما يجب أن نحاول القيام به هو إبقاء العالم كما هو تقريبا اليوم ولكن مع جشع أقل والمزيد من الرعاية الصحية العامة. ومع ذلك ، أعتقد أنه ليس فقط الحجم ولكن أيضا الاتجاه مهم. هناك أنواع معينة من التكنولوجيا التي تجعل العالم أفضل بشكل أكثر موثوقية من أنواع التكنولوجيا الأخرى. هناك أنواع معينة من التكنولوجيا التي يمكن ، إذا تم تطويرها ، التخفيف من الآثار السلبية لأنواع أخرى من التكنولوجيا. يبالغ العالم في المؤشرات في بعض اتجاهات تطوير التكنولوجيا ، ويقلل من المؤشرات في اتجاهات أخرى. نحن بحاجة إلى نية بشرية نشطة لاختيار الاتجاهات التي نريدها ، لأن صيغة "تعظيم الربح" لن تصل إليها تلقائيا.

في هذا المقال، سأتحدث عن ماذا تعني التكنولوجيا التفاؤلية بالنسبة لي. ويشمل ذلك الرؤية الأوسع التي تحفز عملي على أنواع معينة من تطبيقات سلسلة الكتل والتشفير والتكنولوجيا الاجتماعية، بالإضافة إلى مجالات أخرى من العلوم التي أبديت اهتمامًا بها. ولكن وجهات النظر حول هذا السؤال الأوسع لها أيضًا تأثيرات على الذكاء الاصطناعي، وعلى العديد من المجالات الأخرى. من المرجح أن تكون تقدماتنا السريعة في التكنولوجيا أهم قضية اجتماعية في القرن الحادي والعشرين، ولذا فمن المهم التفكير فيها بعناية.

جدول المحتويات

• التكنولوجيا مذهلة، وهناك تكاليف مرتفعة جدًا لتأخيرها
  • البيئة، وأهمية النية المنسقة
• الذكاء الاصطناعي مختلف بشكل جوهري عن التكنولوجيا الأخرى، ويستحق أن يكون حذرًا بشكل فريد
  • خطر وجودي أمر كبير
  • حتى لو نجونا، هل مستقبل الذكاء الاصطناعي الفائق شيء نريد العيش فيه؟
  • السماء قريبة، الإمبراطور في كل مكان
• d/acc: التسارع الدفاعي (أو اللامركزية، أو التفاضلي)
  • العوالم المحبة للدفاع تساعد على ازدهار الحكم الصحي والديمقراطي
  • الدفاع الفيزيائي الكبير
  • الدفاع الفيزيائي الدقيق (المعروف أيضًا بالدفاع البيولوجي)
  • الدفاع السيبراني، والبلوكشين، والتشفير
  • الدفاع عن المعلومات
  • تكنولوجيا اجتماعية تتجاوز إطار "الدفاع"
• فما هي الطرق المتاحة لتقدم الذكاء الاصطناعي الفائق؟
  • مسار سعيد: الدمج مع الذكاء الاصطناعي؟
• هل يتوافق d/acc مع فلسفتك الحالية؟
• نحن ألمع نجم

التكنولوجيا مدهشة، وهناك تكاليف عالية جدًا لتأجيلها

في بعض الأوساط، من الشائع التقليل من فوائد التكنولوجيا، ورؤيتها في المقام الأول كمصدر للدراما والمخاطر. على مدى النصف الأخير من القرن الماضي، كان ذلك غالبًا ما ينبع إما من القلق بشأن البيئة، أو من القلق بأن الفوائد ستعود فقط على الأثرياء، الذين سيعززون سلطتهم على الفقراء. في الآونة الأخيرة، لقد بدأت أيضًا في رؤية الليبرتاريون يشعرون بالقلق إزاء بعض التكنولوجيا، خوفًا من أن تؤدي التقنية إلى تركيز السلطة. هذا الشهر، فعلتبعض الاستطلاعاتطلب السؤال التالي: إذا كان يتعين تقييد تكنولوجيا ما، لأنها كانت خطيرة للغاية لتكون حرة لأي شخص لاستخدامها، هل سيفضلون أن تكون منحصرة أم مؤجلة لمدة عشر سنوات؟ لقد فوجئت عندما رأيت، عبر ثلاث منصات وثلاث خيارات لمن سيكون الواحد المحظور، تصويت ساحق موحد للتأجيل.

وبالتالي في بعض الأحيان أشعر بالقلق من أننا قمنا بتصحيح الأمور بشكل زائد، ويفوت الكثير من الناس الجانب المعاكس للحجة: أن فوائد التكنولوجياهيحقا فريجين ضخمة, على تلك المحاور التي يمكننا قياسها فيها، يتفوق الخير بشكل كبير على الشر، وتكلفة حتى عقد من التأخير لا تصدق.

لنقدم مثالًا ملموسًا واحدًا، دعونا نلقي نظرة على جدول توقعات العمر.

ماذا نرى؟ خلال القرن الماضي، تقدم ضخم حقا. هذا صحيح في جميع أنحاء العالم، سواء في المناطق الثرية والمهيمنة تاريخيا والمناطق الفقيرة والمستغلة.

بعض الناس يلومون التكنولوجيا على إنشاء أو تفاقم الكوارث مثل التطرف والحروب. في الواقع، يمكننا رؤية الوفيات الناجمة عن الحروب على الرسوم البيانية: واحدة في العقد 1910 (الحرب العالمية الأولى) وواحدة في العقد 1940 (الحرب العالمية الثانية). إذا نظرت بعناية، يمكن رؤية أيضًا الإنفلونزا الإسبانية والقفزة العظمى إلى الأمام وغيرها من الكوارث غير العسكرية. ولكن هناك شيء واحد يوضحه الرسم البياني بوضوح: حتى الكوارث المروعة مثل تلك تتجاوزها حجمًا بالكامل من مسيرة الحسنات اللا نهائية.طعام, المرافق الصحيه, دواءوالبنية التحتية التي حدثت خلال تلك القرن.

هذا معكوس من خلال تحسينات كبيرة لحياتنا اليومية. بفضل الإنترنت،معظم الناس حول العالملديهم الوصول إلى المعلومات بسهولة في أي وقت كانت غير متاحة قبل عشرين عامًا. الاقتصاد العالمي يصبح أكثر إمكانية بفضل تحسينات في الدفع والتمويل الدولي. الفقر العالمي انخفاض سريع. بفضل الخرائط عبر الإنترنت، لم نعد بحاجة للقلق بشأن الضياع في المدينة، وإذا كنت بحاجة للعودة إلى المنزل بسرعة، فلدينا الآن طرق أسهل بكثير لاستدعاء سيارة للقيام بذلك. أصبحت ممتلكاتنا رقمية، وتعتبرالسلع الفعلية تصبح رخيصة, يعني أن لدينا الكثير أقل ما نخشاه من السرقة البدنية. لقد خفض التسوق عبر الإنترنت الفجوة في الوصول إلى السلع بين المدن العملاقة العالمية وبقية العالم. بكل أنواعه، جلبت لنا التلقائية الفائدة المقدرة بشكل دائم ببساطة حياتنا أكثر راحة.

هذه التحسينات، سواء كانت قابلة للقياس أم لا، كبيرة. وفي القرن الواحد والعشرين، هناك فرصة جيدة بأن التحسينات الأكبر قد تأتي قريبًا. اليوم، يبدو إنهاء الشيخوخة والأمراض خياليًا. ولكن من وجهة نظرالحواسيب كما كانت موجودة في عام 1945, في العصر الحديث من وضع الرقائق في كل شيء تقريبا كانت ستبدو خيالية: حتى أن أفلام الخيال العلمي غالبًا ما كانت تحتفظ بأجهزتها بحجم غرفة. إذا تقدمت التكنولوجيا الحيوية بنفس معدل تقدم الحواسيب خلال السنوات الـ 75 الماضية خلال الـ 75 سنة القادمة، فإن المستقبل قد يكون أكثر إثارة من توقعات أي شخص تقريبًا.

وفي الوقت نفسه، غالبًا ما تذهب الحجج التي تعبر عن الشك بالتقدم إلى أماكن مظلمة. حتى الكتب الطبية، مثل هذه في التسعينيات (الاعتمادEmma Szewczakللعثور عليه)، وفي بعض الأحيان يقدمون مطالبات متطرفة تنفي قيمة قرنين من العلوم الطبية وحتى يُجادلون في أنه ليس من الواضح أنه شيء جيد بوضوح لإنقاذ حياة البشر:

البوابة "حدود النمو"أطروحة، فكرة متقدمة في السبعينيات تقول إن السكان والصناعة المتزايدة ستفني في نهاية المطاف الموارد المحدودة للأرض، وانتهت بتحفيزهاسياسة الطفل الواحد في الصين و عمليات تعقيم قسري واسعة النطاق في الهند. في العصور السابقة، تم استخدام المخاوف من الزيادة السكانية لـتبريركتلةقتل. وهذه الأفكار، جادلتمنذ 1798, لديها تاريخ طويل من يُثبت الخطأ.

إنها لأسباب مثل هذه التي، كنقطة انطلاق، أجد نفسي غير مرتاح تمامًا للحجج التي تهدف إلى تباطؤ التكنولوجيا أو تقدم الإنسان. نظرًا لربط القطاعات جميعها ببعضها، فإن حتى تباطؤ القطاعات يعتبر محفوفًا بالمخاطر. ولذلك عندما أكتب أشياء مثل ما سأقوله لاحقًا في هذا المنشور، مغادرًا الحماس المفتوح تجاه التقدم بغض النظر عن شكله، فإن تلك تصريحات أقوم بها بقلب ثقيل - ومع ذلك، القرن الواحد والعشرين مختلف بما فيه الكفاية وفريد بحيث تستحق هذه التفاصيل النظر فيها.

ومع ذلك، هناك نقطة هامة من التفاصيل يجب أن نلاحظها في الصورة الأوسع، خاصة عندما نتجاوز "التكنولوجيا بشكل عام جيد" ونصل إلى موضوع "ما هي التكنولوجيا الخاصة التي هي جيدة؟". وهنا نحتاج إلى التطرق إلى قضية الكثير من الناس الرئيسية: البيئة.

البيئة، وأهمية النية المنسقة

أ استثناء رئيسيإلى اتجاه تحسن تقريبًا في كل شيء خلال القرن الماضي هو تغير المناخ:

حتى السيناريوهات التشاؤمية لارتفاع درجات الحرارة الحالية لن تؤدي إلى انقراض الإنسانية حرفيًا. ولكن مثل هذه السيناريوهات يمكن أن تقتل عددًا أكبر من الناس من الحروب الكبرى بشكل معقول، وتؤذي بشكل شديد صحة الناس وسبل عيشهم في المناطق التي يكافح فيها الناس بالفعل بشدة.دراسة معهد سويس رييقترح أن سيناريو تغير المناخ الأسوأ قد يخفض الناتج المحلي الإجمالي لأفقر الدول في العالم بنسبة تصل إلى 25٪.هذه الدراسةيقترح أن العمر في الهند الريفية قد يكون أقل بعقد من الزمان مما كان متوقعًا له، ودراسات مثل هذا واحدوهذا واحد تشير إلى أن تغير المناخ يمكن أن يتسبب في مائة مليون حالة وفاة زائدة بحلول نهاية القرن.

هذه المشاكل هي صفقة كبيرة. إن إجابتي على سبب تفاؤلي بشأن قدرتنا على التغلب على هذه التحديات ذات شقين. أولا ، بعد عقود من الضجيج والتفكير بالتمني ، طاقة شمسيةهوأخيراتحولزاوية، و تقنيات داعمة مثل البطارياتتحقيق تقدم مماثل. ثانيًا، يمكننا النظر إلى سجل البشرية في حل المشاكل البيئية السابقة. خذ، على سبيل المثال، تلوث الهواء. تعرف على العالم المظلم في الماضي: الضباب الكثيف في لندن، 1952.

ماذا حدث منذ ذلك الحين؟ دعونا نسأل بياناتنا العالمية مرة أخرى:

كما تبين، لم يكن عام 1952 ذروة الانبعاثات؛ في أواخر القرن التاسع عشر، كانت تركيزات أعلى من الملوثات الجوية مقبولة وطبيعية. منذ ذلك الحين، رأينا قرنًا من الانخفاضات المستمرة والسريعة. كنت قد شهدت في النهاية السنوات الأخيرة من هذا خلال زياراتي إلى الصين: في عام 2014، مستويات عالية من الضباب الدخاني في الهواء،يُقدَر أن يُقلّل من متوسط العمر بأكثر من خمس سنوات, كانت الأمور طبيعية، ولكن بحلول عام 2020، بدت الهواء في كثير من الأحيان نظيفًا مثل العديد من المدن الغربية. هذه ليست قصتنا الناجحة الوحيدة. في العديد من أنحاء العالم، مناطق الغابات آخذة في الازدياد. أزمة المطر الحمضييتحسن. The تمت استعادة طبقة الأوزون لعقود.

بالنسبة لي ، المغزى من القصة هو هذا. في كثير من الأحيان ، هذا هو الحال حقا أن الإصدار N من تقنية حضارتنا يسبب مشكلة ، والإصدار N + 1 يصلحها. ومع ذلك ، هذا لا يحدث تلقائيا ، ويتطلب جهدا بشريا متعمدا. طبقة الأوزون تتعافى لأن، من خلال اتفاقيات دولية مثل بروتوكول مونتريال، جعلناه يتعافى.تحسن تلوث الهواء لأننا جعلناه يتحسن. وبالمثل، لم تتحسن الألواح الشمسية بشكل كبير لأنه كان جزءًا محددًا مسبقًا من شجرة التكنولوجيا الطاقوية؛ بل تحسنت الألواح الشمسية بشكل كبير لأن عقودًا من الوعي بأهمية حل تغير المناخ دفعت كل من المهندسين للعمل على المشكلة، والشركات والحكومات لتمويل أبحاثهم. إنها إجراء متعمد، منسق من خلال الحوار العام وتشكيل الثقافة الذي يشكل وجهات نظر الحكومات والعلماء والأعمال الخيرية والشركات، وليسآلة "التكنولوجيا-رأس المال" اللا هوادة, الذي قد حل هذه المشاكل.

الذكاء الاصطناعي يختلف جوهريًا عن التكنولوجيا الأخرى، ويستحق أن نكون حذرين بشكل فريد

الكثير من الآراء الاستبعادية التي رأيتها حول الذكاء الاصطناعي تأتي من منظور أنه "مجرد تكنولوجيا أخرى": شيء ينتمي إلى نفس الفئة العامة كوسائل التواصل الاجتماعي، والتشفير، ووسائل منع الحمل، والهواتف، والطائرات، والبنادق، وآلة الطباعة، والعجلة. هذه الأشياء ذات أهمية اجتماعية كبيرة بوضوح. إنها ليست مجرد تحسينات معزولة لرفاهية الأفراد: إنها تحول ثقافة بشكل جذري، وتغير توازنات القوى، وتؤذي الأشخاص الذين اعتمدوا بشدة على النظام السابق. الكثيرعارضهموفي النهاية، تبيّن دائما أن المتشائمين كانوا مخطئين.

ولكن هناك طريقة مختلفة للتفكير في ماهية الذكاء الاصطناعي: إنه نوع جديد من العقل الذي يكتسب بسرعة مهارات ذكاء جديدة، ويحتمل بشكل جدي أن يتجاوز قدرات العقل البشري ويصبح الكائن الأعلى تطورًا على الكوكب. فئة الأشياء في تلك الفئة أصغر بكثير: يمكننا بما يبدو تضمين تجاوز البشر للقرود، وتجاوز الكائنات متعددة الخلايا للكائنات أحادية الخلية، أصل الحياة نفسها، وربما الثورة الصناعية، التي أبعدت الآلة عن الإنسان في القوة البدنية. فجأة، يشعر وكأننا نسير على أرض أقل مداسة بكثير.

المخاطر الوجودية أمر كبير

إحدى الطرق التي يمكن أن يؤدي بها الخطأ الذكاء الاصطناعي إلى جعل العالم أسوأ هي (تقريباالطريقة الأسوأ الممكنة: يمكن أن تكونتسبب حرفيا انقراض الإنسان. هذا ادعاء متطرف: بقدر الضرر الذي قد يسببه أسوأ سيناريو لتغير المناخ ، أو جائحة مصطنعة أو حرب نووية ، هناك العديد من جزر الحضارة التي ستبقى سليمة لالتقاط القطع. لكن الذكاء الاصطناعي فائقة الذكاء ، إذا قررت أن تنقلب ضدنا ، قد لا تترك أي ناجين ، وتنهي البشرية إلى الأبد. حتى مارسقد لا تكون آمنة.

سبب كبير للقلق يتمحور حولالتقارب الآلي: بالنسبة لفئة واسعة جدًا من الأهداف التي يمكن أن تكون موجودة لكيان فائق الذكاء ، هناك خطوتان وسيطتان طبيعيتان جدًا يمكن للذكاء الاصطناعي أن يتخذهما لتحقيق تلك الأهداف بشكل أفضل (i) استهلاك الموارد ، و (ii) ضمان سلامته. تحتوي الأرض على الكثير من الموارد ، والبشر متهديد قابل للتنبؤإلى سلامة كيان من هذا القبيل. يمكننا محاولة إعطاء الذكاء الاصطناعي هدفًا صريحًا بحب وحماية البشر، ولكن لدينالا أفكاركيففعلافعلذلك بطريقة لن تنهار تماما بمجرد الذكاء الاصطناعي يواجه موقفا غير متوقع. Ergo ، لدينا مشكلة.

محاولة الباحث في MIRI روب بينسينجرفي توضيح تقديرات الأشخاص المختلفة لاحتمال أن يقوم الذكاء الاصطناعي إما بقتل الجميع أو بفعل شيء على الأقل بنفس السوء. العديد من المواقف تقريبات خام تقترن بتصريحات عامة للأشخاص، ولكن العديد من الآخرين قد قدموا تقديراتهم الدقيقة علنًا؛ وكثيرون لديهم "احتمالية الهلاك" تزيد عن 25٪.

A مسح لباحثي التعلم الآليمن عام 2022 أظهرت أنه في المتوسط، يعتقد الباحثون أن هناك 5-10% فرصة أن الذكاء الاصطناعي سيقتلنا جميعًا حرفيًا: حوالي نفس الاحتمالية المتوقعة إحصائيًا كفرصة سوف تموت من أسباب غير بيولوجية مثل الإصابات.

هذا كله فرضية تكهنية، ويجب علينا جميعًا أن نكون حذرين من الفرضيات التكهنية التي تشمل قصصًا متعددة المراحل المعقدة. ومع ذلك، فقد نجا هذه الحجج على مدى عقد من التدقيق، ولذا، يبدو أنه يستحق القلق على الأقل قليلاً. ولكن حتى إذا لم تكن قلقًا بشأن الانقراض الحرفي، هناك أسباب أخرى للخوف أيضًا.

حتى لو نجونا، هل مستقبل الذكاء الاصطناعي الفائق شيء نريد العيش فيه؟

كثير من الخيال العلمي الحديث هو ديستوبي، ويصوّر الذكاء الاصطناعي بصورة سيئة. حتى المحاولات غير الخيالية لتحديد مستقبلات الذكاء الاصطناعي المحتملة غالباً ما تعطي.إجابات غير جذابة تماماً. ولذلك ، ذهبت حولي وسألت السؤال: ما هو تصوير ، سواء كان خيال علمي أو غير ذلك ، لمستقبل يحتوي على الذكاء الاصطناعي فائق الذكاء الذي نرغب في العيش فيه. الجواب الذي عاد بقوة في معظم الأحيان هو إيان بانكس سلسلة الثقافة.

تتميز سلسلة الثقافة بحضارة بين النجوم في المستقبل البعيد يشغلها في المقام الأول نوعان من الممثلين: البشر العاديون ، والذكاء الاصطناعي الفائق يسمى العقول. لقد تم زيادة البشر ، ولكن بشكل طفيف فقط: تسمح التكنولوجيا الطبية نظريا للبشر بالعيش إلى أجل غير مسمى ، لكن معظمهم يختارون العيش لمدة 400 عام فقط ، على ما يبدو لأنهم يشعرون بالملل من الحياة في تلك المرحلة.

من وجهة نظر سطحية، يبدو أن الحياة كإنسان جيدة: إنها مريحة، وتُعتنى بقضايا الصحة، وهناك مجموعة واسعة من الخيارات للترفيه، وهناك علاقة إيجابية وتآزرية بين البشر والعقول. ومع ذلك، عندما ننظر بعمق، هناك مشكلة: يبدو أن العقول هي من تتحكم تمامًا، ودور البشر الوحيد في القصص هو أن يكونوا كأوراق الشطرنج بيد العقول، يقومون بأداء المهام نيابةً عنها.

نقلاً عنضد الثقافة لغافين ليتش:

البشر ليسوا البطلين. حتى عندما يبدو الكتاب أن لديه بطل بشري، يقوم بأشياء جادة كبيرة، فإنهم في الواقع وكلاء للذكاء الاصطناعي. (زاكالوي هو واحد من الاستثناءات القليلة، لأنه يمكنه فعل أشياء غير أخلاقية لا يرغب العقول في فعلها.) "العقول في الثقافة لا تحتاج إلى البشر، ومع ذلك البشر بحاجة إلى أن يحتاجوا." (أعتقد أن عددًا صغيرًا فقط من البشر بحاجة إلى أن يحتاجوا - أو، إنما عدد قليل فقط منهم يحتاجون بما يكفي للتخلي عن العديد من الراحات. معظم الناس لا يعيشون على هذا المقياس. لا تزال نقدًا رائعًا.)

المشاريع التي يتخذها البشر تخاطر بعدم الأصالة. تقريبا أي شيء يفعلونه ، يمكن للآلة أن تفعل ما هو أفضل. ماذا يمكنك أن تفعل؟ يمكنك أن تأمر العقل بعدم الإمساك بك إذا سقطت من الجرف الذي تتسلقه فقط ؛ يمكنك حذف النسخ الاحتياطية لعقلك بحيث تخاطر بالفعل. يمكنك أيضا ترك الثقافة والانضمام مرة أخرى إلى بعض السيرة الذاتية القديمة وغير الحرة "التقييمية بقوة". البديل هو التبشير بالحرية من خلال الانضمام إلى جهة الاتصال.

سأقول أن الأدوار "المعنوية" التي يتم منحها للبشر في سلسلة الثقافة هي مجرد تمديد؛ سألت ChatGPT (من غيرهم؟) لماذا يتم منح البشر الأدوار التي يتم منحها لهم، بدلاً من أن تقوم العقول بفعل كل شيء بأنفسها، وجدت شخصياً إجاباتهاغير مُلهم تمامًا. يبدو أنه من الصعب جدًا أن يكون لدينا عالم يهيمن عليه الذكاء الاصطناعي الفائق الودود حيث يكون البشر شيئًا غير الحيوانات الأليفة.

العالم الذي لا أريد أن أراه.

تقدم العديد من سلاسل الخيال العلمي الأخرى عالمًا حيث توجد الذكاءات الاصطناعية فائقة الذكاء، لكنها تأخذ الأوامر من السادة البشر البيولوجيين (غير المحسنين). ستار تريك هو مثال جيد، حيث يُظهر رؤية للتناغم بين سفن الفضاء معالذكاء الاصطناعي "الحواسيب"(والبيانات) وطواقمهم البشرية. ومع ذلك، يبدو أن هذا التوازن غير المستقر بشكل لا يصدق. عالم ستار تريك يبدو مثاليًا في اللحظة، ولكن من الصعب تخيل رؤيته لعلاقات الإنسان والذكاء الاصطناعي كأي شيء سوى مرحلة انتقالية قبل عقد من الزمان قبل أن تصبح السفن الفضائية مُتحكمة بالكامل بواسطة الكمبيوتر، وتتوقف عن الاهتمام بالأروقة الكبيرة والجاذبية الصناعية والتحكم في المناخ.

إن الإنسان الذي يعطي الأوامر لآلة فائقة الذكاء سيكون أقل ذكاء بكثير من الآلة ، وسيكون لديه إمكانية الوصول إلى معلومات أقل. في عالم لديه أي درجة من المنافسة ، فإن الحضارات التي يأخذ فيها البشر المقعد الخلفي ستتفوق على تلك التي يصر فيها البشر بعناد على السيطرة. علاوة على ذلك ، قد تنتزع أجهزة الكمبيوتر نفسها السيطرة. لمعرفة السبب ، تخيل أنك من الناحية القانونية عبد حرفي لطفل يبلغ من العمر ثماني سنوات. إذا كان بإمكانك التحدث مع الطفل لفترة طويلة ، فهل تعتقد أنه يمكنك إقناع الطفل بالتوقيع على قطعة من الورق تحررك؟ لم أجر هذه التجربة ، لكن إجابتي الغريزية هي نعم قوية. وبشكل عام ، يبدو أن البشر الذين يصبحون أليفة جاذبين يصعب الهروب منه.

السماء قريبة، الإمبراطور في كل مكان

المثل الصيني 天高皇帝远 ("تيان قاو هوانغ دي يوان") ، "السماء عالية ، الإمبراطور بعيد" ، يلخص حقيقة أساسية حول حدود المركزية في السياسة. حتى في إمبراطورية استبدادية كبيرة اسميا - في الواقع ، خاصة إذا كانت الإمبراطورية الاستبدادية كبيرة ، هناك حدود عملية لوصول القيادة واهتمامها ، وحاجة القيادة إلى تفويض وكلاء محليين لفرض إرادتها تضعف قدرتها على فرض نواياها ، وبالتالي هناك دائما أماكن تسود فيها درجة معينة من الحرية العملية. في بعض الأحيان، يمكن أن يكون لهذا جوانب سلبية: غياب قوة بعيدة تفرض مبادئ وقوانين موحدة يمكن أن يخلق مساحة للهيمنة المحلية للسرقة والقمع. ولكن إذا ساءت السلطة المركزية ، فإن القيود العملية للانتباه والمسافة يمكن أن تخلق حدودا عملية لمدى السوء الذي يمكن أن تصل إليه.

مع الذكاء الاصطناعي، لم يعد. في القرن العشرين، جعلت تكنولوجيا النقل الحديثة قيود المسافة قيداً أضعف بكثير على السلطة المركزية مما كانت عليه من قبل؛ فإن الإمبراطوريات الشمولية العظيمة في الأربعينيات كانت نتيجة جزئية. في القرن الواحد والعشرين، قد يعني التجميع القابل للتوسيع لجمع المعلومات والأتمتة أن الانتباه لم يعد قيداً أيضاً. يمكن أن تكون عواقب الحدود الطبيعية للحكومة الاختفاء تماماً وخيمة.

تم ترجمة الاستبداد الرقميعلى ارتفاع لعقد, وتكنولوجيا المراقبة قد منحت بالفعل الحكومات الاستبدادية استراتيجيات جديدة قوية للتصدي للمعارضة: السماح بحدوث الاحتجاجات، ثم كشف ويذهب بعدوة بصمتالمشاركونبعد الحقيقةأكثر عمومية، مخاوفي الأساسية هي أن نفس أنواع التقنيات الإدارية التي تتيح لـ OpenAI خدمة أكثر من مئة مليون عميل بـ500 موظفسيسمح أيضًا للنخبة السياسية المكونة من 500 شخص، أو حتى لمجلس مكون من 5 أشخاص، بأن يحافظوا على قبضة من حديد على البلد بأسره. مع الرصد الحديث لجمع المعلومات، والذكاء الاصطناعي الحديث لتفسيرها، قد لا يكون هناك مكان للاختباء.

تزداد سوءًا عندما نفكر في عواقب الذكاء الاصطناعي في الحرب. اقتباسًا منمشهور نصفهعن فلسفة الذكاء الاصطناعي والعملات المشفرة بواسطة0xAlpha:

عندما لا تكون هناك حاجة للعمل السياسي الإيديولوجي والتعبئة الحربية، يحتاج القائد الأعلى للحرب فقط أن ينظر إلى الوضع نفسه كما لو كان لعبة شطرنج ويتجاهل تمامًا أفكار ومشاعر الأبيض/الحصان/الأفيال على لوحة الشطرنج. تصبح الحرب لعبة تقنية بحتة.

علاوة على ذلك، يتطلب العمل السياسي الأيديولوجي وتعبئة الحرب مبررا لأي شخص لشن الحرب. لا تقلل من أهمية مثل هذا "التبرير". لقد كان قيدا شرعيا على الحروب في المجتمع البشري لآلاف السنين. أي شخص يريد شن الحرب يجب أن يكون لديه سبب ، أو على الأقل عذر مبرر سطحيا. قد تجادل بأن هذا القيد ضعيف للغاية لأنه ، في كثير من الحالات ، لم يكن هذا أكثر من عذر. على سبيل المثال ، كانت بعض الحروب الصليبية (إن لم يكن كلها) لاحتلال الأرض وسرقة الثروة ، ولكن كان لا بد من القيام بها باسم الله ، حتى لو كانت المدينة التي سرقت هي قسطنطينية الله. ومع ذلك ، حتى القيد الضعيف لا يزال قيدا! هذا الشرط الصغير للعذر وحده يمنع صانعي الحرب من أن يكونوا عديمي الضمير تماما في تحقيق أهدافهم. حتى شر مثل هتلر لم يستطع شن حرب مباشرة - كان عليه أن يقضي سنوات في محاولة إقناع الأمة الألمانية بالقتال من أجل مساحة المعيشة للعرق الآري النبيل.

اليوم، يعتبر "الإنسان في الحلقة" تحققًا مهمًا للتحقق من قدرة الديكتاتور على بدء الحروب، أو قمع مواطنيه داخليًا. البشر في الحلقةمنعالنوويةالحروب, سمح بفتح جدار برلين, وأنقذت الأرواح خلال فظاعاتمثلالباب الهولوكوست. إذا كانت الجيوش روبوتات ، فإن هذا الفحص يختفي تماما. يمكن للديكتاتور أن يسكر في الساعة 10 مساء ، ويغضب من الناس الذين يسيئون إليهم على تويتر في الساعة 11 مساء ، ويمكن لأسطول غزو آلي أن يعبر الحدود ليمطر نار جهنم على المدنيين والبنية التحتية لدولة مجاورة قبل منتصف الليل.

وعلى عكس العصور السابقة، حيث يوجد دائمًا بعض الزوايا البعيدة، حيث يكون السماء مرتفعة والإمبراطور بعيدًا، حيث يمكن لخصوم النظام إعادة التجمع والاختباء وفي نهاية المطاف العثور على طريقة لتحسين الأمور، مع الذكاء الاصطناعي في القرن الواحد والعشرين قد يحافظ النظام الشمولي على ما يكفي من المراقبة والسيطرة على العالم ليبقى "محتجزا" إلى الأبد.

d/acc: الوضع الدفاعي (أو اللامركزية، أو التسارع التفاضلي)

خلال الأشهر القليلة الماضية، اكتسبت حركة "e/acc" (التسارعية الفعالة) الكثير من الزخم.تلخيص بواسطة "بيف جيزوس" هنا, e/acc هو في الأساس عن تقدير الفوائد الضخمة حقًا للتقدم التكنولوجي، وعن رغبة في تسريع هذه الاتجاه لجلب تلك الفوائد في وقت أقرب.

أجد نفسي متعاطفًا مع وجهة نظر الهندسة المعمارية في العديد من السياقات. هناك الكثير من الأدلة التيالإدارة الغذائية والدوائية محافظة جدافي استعدادها لتأخير أو منع الموافقة على الأدوية، والأخلاقيات الحيوية بصفة عامة يبدو أنها كثيراً ما تعمل وفق مبدأ "20 شخصاً ميتاً في تجربة طبية ذهبت على نحو خاطىء هو مأساة، ولكن 200000 شخص ماتوا بسبب تأخير العلاجات الأساسية هو إحصائية". التأخيرات في الموافقة على اختبارات COVID واللقاحات, و لقاحات الملاريا, يبدو أن هذا يؤكد ذلك بشكل أكبر. ومع ذلك ، من الممكن أن نأخذ هذه النظرة بعيدًا جدًا.

بالإضافة إلى مخاوفي المتعلقة بالذكاء الاصطناعي، أشعر بتردد خاص بشأن e/acc الحماس ل تكنولوجيا عسكرية. في السياق الحالي في عام 2023، حيث يتم تصنيع هذه التكنولوجيا من قبل الولايات المتحدة وتطبيقها على الفور للدفاع عن أوكرانيا، من السهل رؤية كيف يمكن أن تكون قوة للخير. ومع ذلك، يبدو أن الحماس بشأن التكنولوجيا العسكرية الحديثة كقوة للخير يتطلب الاعتقاد بأن القوة التكنولوجية السائدة ستكون دائمًا من الأطراف الصالحة في معظم النزاعات، الآن وفي المستقبل: التكنولوجيا العسكرية جيدة لأن التكنولوجيا العسكرية تُبنى وتُسيطر عليها أمريكا وأمريكا جيدة. هل يتطلب أن تكون محبًا لأمريكا أن تكون متطرفًا، وتراهن كل شيء على كل من الأخلاق الحالية والمستقبلية للحكومة ونجاح البلاد في المستقبل؟

من ناحية أخرى، أرى الحاجة إلى نهج جديد في التفكير حول كيفية تقليل هذه المخاطر. هيكل حوكمة OpenAIهو مثال جيد: يبدو أنه جهد محمود لتحقيق التوازن بين الحاجة لتحقيق ربح يُرضي المستثمرين الذين يوفرون رأس المال الأولي مع الرغبة في وجود نظام تدقيق وتوازن لمواجهة الحركات التي تعرض OpenAI لخطر تدمير العالم. ومع ذلك، في التطبيق العملي، ما حدث مؤخرًا لديهم محاولة فصل سام ألتمانيبدو أن الهيكل يجعله فشلاً مطلقًا: إذ أنه يركز السلطة في مجلس مكون من خمسة أشخاص غير ديمقراطيين وغير محاسبين، الذين اتخذوا قرارات رئيسية استناداً إلى معلومات سرية ورفضوا تقديم أي تفاصيل حول تفسيرهمحتى هدد الموظفون بالاستقالةبكميات كبيرة. بطريقة ما، لعب مجلس الإدارة غير الربحي بأوراقهم بشكل سيء لدرجة أن موظفي الشركةأنشأبوابةاتحاد فعلي غير مخطط له… لدعم الرئيس التنفيذي للملياردير ضدهم.

عبر اللوحة، أرى الكثير جدًا من الخطط لإنقاذ العالم تتضمن منح مجموعة صغيرة من الناس سلطة متطرفة وغامضة والأمل في استخدامها بحكمة. ولذا أجد نفسي مستمدًا إلى فلسفة مختلفة، تحتوي على أفكار مفصلة حول كيفية التعامل مع المخاطر، ولكن تسعى إلى خلق والحفاظ على عالم أكثر ديمقراطية وتحاول تجنب التمركز كحل لمشاكلنا. هذه الفلسفة تتعدى بكثير أيضًا من الذكاء الاصطناعي، وأعتقد أنها تنطبق جيدًا حتى في العوالم التي تكون فيها مخاوف المخاطر الخاصة بالذكاء الاصطناعي غير مبررة إلى حد كبير. سأشير إلى هذه الفلسفة باسم d/acc.

dacc3

يمكن أن تعني "d" هنا العديد من الأشياء ؛ خاصة ، الدفاع ، اللامركزية ، الديمقراطية والتفاضل. أولاً ، فكر فيها كدفاع ، ثم يمكننا أن نرى كيف يرتبط هذا بالتفسيرات الأخرى.

العوالم المحبة للدفاع تساعد على ازدهار الحكم الصحي والديمقراطي

إحدى الإطارات للتفكير في العواقب الكبرى للتكنولوجيا هي النظر إلى توازن الدفاع مقابل الهجوم. بعض التكنولوجيات تجعل من الأسهل شن هجمات على الآخرين، في السياق العام للمصطلح: فعل الأشياء التي تتعارض مع مصالحهم والتي يشعرون بالحاجة إلى الرد عليها. بينما تجعل التكنولوجيات الأخرى الدفاع أسهل، وحتى الدفاع دون الاعتماد على جهات مركزية كبيرة.

عالم محب للدفاع هو عالم أفضل، لأسباب كثيرة. أولاً بالطبع هو الفائدة المباشرة من السلامة: يموت أقل عدد من الناس، يتم تدمير قيمة اقتصادية أقل، يُضيع وقت أقل في الصراع. ما لا يُقدَّر كثيرًا هو أن عالمًا محبًا للدفاع يجعل من السهل ازدهار أشكال أكثر صحة وانفتاحًا واحترامًا للحريات من الحكم.

مثال واضح على ذلك هو سويسرا. يُعتبر غالبًا سويسرا أقرب شيء للعالم الحقيقي من حيث الأودية الحرة الكلاسيكية. يتم تفويض كميات هائلة من السلطة إلى المقاطعات (التي تسمى "كانتونات"، وتتخذ قرارات رئيسية...تقرر عن طريق الاستفتاءات, والعديد من السكان المحليين لا أعرف حتى من هو الرئيسكيف يمكن لبلد مثل هذا البقاءصعب للغايةسياسيضغوط? جزء من الباب الإجابة استراتيجية سياسية ممتازة, لكن الجزء الرئيسي الآخر هو جغرافية تفضل الدفاع كثيرًا) في شكل تضاريسها الجبلية.

العلم هو ميزة كبيرة. ولكن الجبال أيضا كذلك.

المجتمعات الأناركية في زوميا، التي تم تسليط الضوء عليها بشهرة في كتاب جيمس سكوت الجديد"فن عدم الحكم", هي مثال آخر: فهي تحافظ أيضًا على حريتها واستقلالها إلى حد كبير بفضل التضاريس الجبلية. وفي الوقت نفسه، السهول الأوراسية العكس الدقيق لروضة الحوكمة. تعريض سارة بين: القوى البحرية مقابل القوى القاريةيقدم نقاط مماثلة، على الرغم من التركيز على الماء كحاجز دفاعي بدلاً من الجبال. في الواقع، يبدو أن توافق سهولة التجارة الطوعية وصعوبة الغزو الغير مرغوب فيها، المشتركة بين سويسرا ودول الجزر، مثالية لازدهار الإنسان.

اكتشفت ظاهرة ذات صلة عند تقديم توجيهات لتجارب التمويل التربيعي داخل نظام الإيثيريوم: وتحديداًجولات تمويل منح Gitcoin. في الجولة 4, ظهرت فضيحة صغيرة عندما كان بعض الحائزين على أعلى الأرباح مؤثرون على تويتر، حيث يُعتبر إسهامهم بعض الناس إيجابيًا وبعضهم الآخر سلبيًا. تفسيري الخاص لهذه الظاهرة هو أن هناك عدم توازن: تمويل تربيعييتيح لك التعبير عن رأيك في أن شيئًا ما هو جيد عام، ولكنه لا يوفر وسيلة للتعبير عن أن شيئًا ما هو سيء عام. في حالة التطرف، فإن نظام التمويل التربيعي النيوترالي بالكامل سيمول كلا الجانبين في الحرب. وبالتالي لـالجولة 5, اقترحت أن يتضمن Gitcoin مساهمات سلبية: تدفع دولارًا واحدًا لتقليل المبلغ الذي يتلقاه مشروع معين (وإعادة توزيعه ضمنيًا على جميع المشاريع الأخرى). النتيجة: الكثيرمنالناسكرهتهو.

واحدة من العديد من الصور الساخرة على الإنترنت التي انتشرت بعد الجولة 5.

هذا بدا لي كميكروكوزم لنمط أكبر: إن إنشاء آليات الحكم اللامركزي للتعامل مع الآثار السلبية يعد مشكلة اجتماعية صعبة جدًا. هناك سبب وجيه لمثال الحكم اللامركزي الذي يسير بشكل خاطئ هو العدالة الشعبية.شيء عن علم النفس البشريالذي يجعل الاستجابة للسلبيات أكثر تعقيدًا بكثير، وأكثر احتمالًا للخطأ بكثير، من الاستجابة للإيجابيات. وهذا هو السبب في أنه حتى في المنظمات الديمقراطية بشكل عام، يتم ترك قرارات كيفية الاستجابة للسلبيات لمجلس مركزي.

في كثير من الحالات ، يعد هذا اللغز أحد الأسباب العميقة التي تجعل مفهوم "الحرية" ذا قيمة كبيرة. إذا قال شخص ما شيئا يسيء إليك ، أو لديه أسلوب حياة تعتبره مثيرا للاشمئزاز ، فإن الألم والاشمئزاز الذي تشعر به حقيقي ، وقد تجد أنه أقل سوءا أن تتعرض للكم الجسدي من التعرض لمثل هذه الأشياء. لكن محاولة الاتفاق على أنواع الإساءة والاشمئزاز القابلة للتنفيذ اجتماعيا يمكن أن يكون لها تكاليف ومخاطر أكثر بكثير من مجرد تذكير أنفسنا بأن أنواعا معينة من غريبي الأطوار والحمقى هي الثمن الذي ندفعه للعيش في مجتمع حر.

وفي أحيان أخرى، إلا أن النهج في "الابتسام وتحملها" غير واقعي. وفي مثل هذه الحالات، إجابة أخرى تستحق النظر إليها أحيانًا هي التكنولوجيا الدفاعية. كلما كان الإنترنت آمنًا، كلما قلنا بحاجة لانتهاك خصوصية الأشخاص واستخدام تكتيكات دبلوماسية دولية مظلمة لملاحقة كل قراصنة الفردية. كلما استطعنا بناء أدوات شخصية لحظر الأشخاص على تويتر،أدوات في المتصفح لاكتشاف الاحتيالاتوأدوات جماعية للتمييز بين المعلومات الخاطئةوالحقيقة، كلما كان علينا القتال أقل بسبب الرقابة. كلما تمكنا من تصنيع اللقاحات بشكل أسرع، كلما كان علينا القلق أقل بشأن مطاردي الأشخاص الذين ينشرون العدوى بشكل كبير. هذه الحلول لا تعمل في جميع المجالات - نحن بالتأكيد لا نريد عالمًا يجب على الجميع ارتداء درع الجسم حرفيًا - ولكن في المجالات التي يمكننا بناء تكنولوجيا لجعل العالم أكثر توجهًا نحو الدفاع، هناك قيمة هائلة في ذلك.

هذه الفكرة الأساسية، التي تفضل بعض التقنيات الدفاعية وتستحق التشجيع، بينما تفضل تقنيات أخرى الهجوم ويجب desalourager، لها جذورها في الأدب العلمي الفعال تحت اسم مختلف: تطوير التقنيات التفاضلية. يوجد كتاب جيدعرض لهذا المبدأ من باحثي جامعة أكسفورد من عام 2022:

الشكل 1: الآليات التي يمكن من خلالها تطوير التكنولوجيا التفاضلي تقليل الآثار السلبية على المجتمع.

من المحتمل بشكل لا مفر من وجود عيوب في تصنيف التكنولوجيا كهجومية أو دفاعية أو محايدة. تماما كما هو الحال مع "الحرية"، حيث يمكن للشخص أن يجادل في ما إذا كانت سياسات الحكومة الاشتراكية الديمقراطية تقلل من الحرية من خلال فرض ضرائب ثقيلة وإجبار أرباب العمل أو تزيد من الحرية عن طريق خفض حاجة الأشخاص المتوسطين إلى القلق بشأن أنواع كثيرة من المخاطر، فإن هناك أيضا بعض التكنولوجيات التي يمكن أن تقع على كلا الجانبين للطيف. الأسلحة النووية تعمل لصالح الهجوم، ولكن الطاقة النووية هيتعزيز النمو البشري والهجوم والدفاع محايد. قد تلعب التقنيات المختلفة أدوارا مختلفة في آفاق زمنية مختلفة. ولكن كما هو الحال مع "الحرية" (أو "المساواة" أو "سيادة القانون") ، فإن الغموض عند الحواف ليس حجة ضد المبدأ بقدر ما هو فرصة لفهم الفروق الدقيقة بشكل أفضل.

الآن، دعونا نرى كيف يمكن تطبيق هذه المبدأ على رؤية شاملة أكثر. يمكن أن نفكر في التكنولوجيا الدفاعية، مثل تكنولوجيا أخرى، كما تم تقسيمها إلى كرتين: عالم الذرات وعالم البتات. يمكن تقسيم عالم الذرات بدوره إلى ميكرو (أي علم الأحياء، ثم تقنية النانو لاحقًا) وماكرو (أي ما نعتقد تقليديًا أنه "الدفاع"، ولكن أيضًا البنية التحتية الفيزيائية المتينة). سأقسم عالم البتات على محور مختلف: مدى صعوبة التوافق، في المبدأ، حول هوية الهاجم؟. أحيانًا يكون الأمر سهلاً؛ أسمي هذا "الدفاع السيبراني". في أحيان أخرى يكون الأمر أصعب؛ أسمي هذا "الدفاع عن المعلومات".

الدفاع الفيزيائي الكبير

أكثر تقنية دفاعية مستهان بها في المجال الكبير ليست حتىالقباب الحديدية(بما في ذلكالنظام الجديد في أوكرانيا) وغيرها من أجهزة الدفاع الفنية والصاروخية المضادة، بل من البنية التحتية البدنية المتينة. من المرجح أن تأتي معظم الوفيات الناجمة عن حرب نووية مناضطرابات سلسلة التوريد, بدلاً من الإشعاع والانفجار الأولي، وقد كانت الحلول الإنترنت منخفضة التكلفة مثل ستارلينك حاسمة فيالحفاظ على تواصل أوكرانياللسنة والنصف الماضية.

بناء أدوات لمساعدة الناس على البقاء على قيد الحياة وحتى العيش بحياة مريحة بشكل مستقل أو شبه مستقل عن سلاسل التوريد الدولية الطويلة يبدو وكأنه تكنولوجيا دفاعية قيمة، واحدة بمخاطر منخفضة من أن تثبت فعالية في الهجوم.

السعي إلى جعل البشرية حضارة متعددة الكواكبيمكن أيضًا رؤية الأمر من منظور الاستدامة والتكامل: إذا عاش على الأقل بعضنا بشكل مستقل على كواكب أخرى، فإن ذلك قد يزيد من مرونتنا ضد حدوث شيء مروع على الأرض. حتى لو اتضح أن الرؤية الكاملة غير قابلة للتحقيق في الوقت الحالي، فإن أشكال العيش المستقل التي سيتعين تطويرها لجعل مثل هذا المشروع ممكنًا قد تكون أيضًا مفيدة لتحسين مرونتنا الحضارية على الأرض.

الدفاع الفيزيائي الدقيق (المعروف أيضًا باسم الحيوي)

خصوصًا بسببتأثيرات صحية طويلة الأمد, يستمر كوفيد في كونه قلق. ولكن كوفيد ليس بعيدا عن آخر وباء سنواجهه؛ هناك العديد من جوانب العالم الحديث التي تجعل من المرجح أن تأتي المزيد من الأوبئة قريبًا:

• كثافة السكان العالية تجعل من الأسهل بكثير انتشار الفيروسات الجوية والمسببات الأخرى للأمراض. الأمراض الوبائية حديثة نسبيًا في تاريخ الإنسان ومعظمها بدأ مع التحضرقبل بضعة آلاف من السنين فقط. التحضر الحضري السريع المستمريعني أن كثافات السكان ستزيد بشكل أكبر خلال النصف القادم من القرن.
• زيادة السفر الجوي تعني أن العوامل الممرضة تنتشر بسرعة كبيرة على نحو عالمي. ارتفاع سريع في ثروة الناس يعني أن السفر الجوي من المحتمل أن يزداد بشكل كبيرزيادة بشكل أكبر بكثيرخلال النصف القادم من القرن؛ يقترح نمذجة القابلية للتعقيد أن زيادات صغيرة حتىقد تكون لها آثار drGateية. قد يزيد تغير المناخ هذا المخاطر بشكل أكبر.
• ترويض الحيوانات وتربية المصانع هما عاملان رئيسيان للمخاطر.الحصبة ربما تطورت من فيروس بقرة قبل أقل من 3000 عام. مزارع المصانع اليوميزرعون أيضًا سلالات جديدة من الإنفلونزا (وكذلك تغذية مقاومة المضادات الحيوية, مع تبعات علىالمناعة الطبيعية البشرية.
• الهندسة الحيوية الحديثة تجعل من الأسهل إنشاء مسببات الأمراض الجديدة والأكثر شراسة. Covidقد يكون قد تسرب أو لامن مختبر يقوم بأبحاث "زيادة الوظيفة" عن عمد. بغض النظر،تحدث تسربات المختبرات في كثير من الأحيان، وتتحسن الأدوات بسرعة لتسهيل إنشاء فيروسات قاتلة للغاية عن قصد، أو حتى بريونس (بروتينات الزومبي). الطاعون الصناعي يثير قلقًا خاصة لأنه غير مثل الأسلحة النووية, فهي غير قابلة للتتبع: يمكنك إطلاق فيروس دون أن يتمكن أحد من معرفة من صممه. من الممكن الآن تصميم تسلسل جيني وإرساله إلى معمل تجارب عمليّةللتوليف، وتسليمه إليك خلال خمسة أيام.

هذه هي المنطقة التي CryptoReliefوBalvi, تم إنشاء منظمتان وتمويلهما نتيجة لحادث كبير عرضيزخم من عملات شيبا إينوفي عام 2021، كانت جمعية CryptoRelief نشطة للغاية. ركزت CryptoRelief في البداية على الاستجابة للأزمة الفورية وفي الآونة الأخيرة بناء نظام بحث طبي طويل الأجل في الهند، بينما كانت Balvi تركز على مشاريع مبتكرة لتحسين قدرتنا على اكتشاف ومنع وعلاج كوفيد وأمراض الجهاز التنفسي الأخرى. ++أصرت Balvi على أن يكون المشاريع التي تمولها مفتوحة المصدر++. مستلهمة منحركة الهندسة المائية في القرن التاسع عشر التي هزمت الكوليراوالممرضات الأخرى العابرة للمياه، قد قدمت تمويلا لمشاريع عبر الطيف الكامل للتقنيات التي يمكن أن تجعل العالم أكثر صلابة ضد المسببات الجوية بشكل افتراضي (انظر: تحديث 1وتحديث 2)، بما في ذلك:

• Far-UVCالإشعاعالبحث والتطوير
• تنقية الهواء ومراقبة جودته في Gate.ioالهند, سريلانكا،الولايات المتحدةوفي أماكن أخرى، ورصد جودة الهواء
• معدات رخيصة وفعالةاختبار جودة الهواء المتموقع
• البحث عن أسباب كوفيد الطويل وخيارات العلاج المحتملة (السبب الأساسي قد يكونمباشرلكنتوضيح الآلياتوالعثور على العلاج أصعب)
• اللقاحات (على سبيل المثال، RaDVaC, PopVax) وأبحاث الإصابة باللقاح
• مجموعة من الأدوات الطبية غير الغازية الجديدة تماما
• الكشف المبكر عن الأوبئة باستخدام تحليل البيانات مفتوحة المصدر (على سبيل المثال EPIWATCH)
• اختبار، بما في ذلك الاختبارات الجزيئية السريعة الرخيصة جدًا
• أقنعة مناسبة للسلامة البيولوجية عند فشل الطرق الأخرى

مناطق واعدة أخرى من الاهتمام تشمل مراقبة مياه الصرف الصحي للمسببات المرضية, تحسين التصفية والتهوية في المباني, وفهم أفضل والتخفيف منهمخاطر التلوث الجوي الضعيف.

هناك فرصة لبناء عالمهذا هو أكثر صلابة ضد الأوبئة الجوية، سواء الطبيعية أو الصناعية، بشكل افتراضي. ستتضمن هذه العالم أنبوب توزيع محسن بشكل كبير حيث يمكننا الانتقال من بداية الوباء، إلى الكشف التلقائي، إلى توفر الناس في جميع أنحاء العالم للوصول إلى مستهدفة، لقاحات مفتوحة المصدر يمكن تصنيعها محليا والتحقق منهاأوالوقايات الأخرى, يتم إدارتها عبر تجزئة الضبابيةأورذاذ الأنف(المعنى: قابل للإدارة الذاتية إذا لزم الأمر، ولا تحتاج إلى إبر)، كل ذلك خلال شهر واحد. في الوقت نفسه، ستقلل جودة الهواء بشكل كبير من معدل انتشار الفيروسات، وتمنع العديد من الأوبئة من الانتشار بشكل عام.

تخيل مستقبل لا يضطر إلى اللجوء إلى المطرقة الثقيلة للإكراه الاجتماعي - لا توجيهات وأسوأ من ذلك، ولا يوجد خطر منتفويضات مصممة ومنفذة بشكل سيء تجعل الأمور أسوأ بحسب الادعاء - لأن البنية التحتية للصحة العامة متشابكة في نسيج الحضارة. هذه العوالم ممكنة، ويمكن أن تجعل كمية متوسطة من التمويل في مجال الدفاع البيولوجي ذلك يحدث. سيحدث العمل بشكل أكثر سلاسة حتى إذا كانت التطورات مفتوحة المصدر، مجانية للمستخدمين ومحمية كسلع عامة.

الدفاع السيبراني، والبلوكشين، والتشفير

من المفهوم عمومًا بين محترفي الأمان أن الحالة الحالية لأمان الكمبيوتر مرة أخرى فظيعة. ومع ذلك، فمن السهل التقليل من كمية التقدم الذي تم تحقيقه. مئات المليارات من الدولارات من العملات المشفرة متاحة للسرقة بشكل مجهول من قبل أي شخص يمكنه اختراق محافظ المستخدمين، وبينما يضيع أو يسرق المزيد بكثيرمن الحقائق أن الكثير منها بقي غير مسروق لأكثر من عقد. في الآونة الأخيرة، هناك تحسنات:

• رقائق الأجهزة الموثوق بها داخل هواتف المستخدمين, وبذلك تكون قد أنشأت نظام تشغيل أمان صغير بكفاءة داخل الهاتف يمكن أن يظل محميًا حتى لو تم اختراق بقية الهاتف. ومن بين العديد من حالات الاستخدام الأخرى، يتم استكشاف هذه الرقائق بشكل متزايد كوسيلة لجعل محافظ العملات المشفرة أكثر أمانًا.
• متصفحات كنظام التشغيل الفعلي. خلال العشر سنوات الماضية، حدث تحول هادئ من التطبيقات قابلة للتنزيل إلى تطبيقات في المتصفح. وقد سمح بذلك بشكل كبير ويب أسمبلي (WASM). حتى برنامج Adobe Photoshop، الذي ذُكر لفترة طويلة كسبب رئيسي لعدم قدرة الكثير من الناس على استخدام نظام التشغيل Linux عملياً بسبب ضرورته وعدم توافقه مع Linux، أصبح الآن متوافقًا مع Linux بفضل وجوده داخل المتصفح. هذا أيضًا يُعتبر ميزة أمان كبيرة: بينما المتصفحات لديها عيوب, عمومًا ، تأتي مع أكثر من ذلك بكثير من تقنية الرمل بالمقارنة مع التطبيقات المثبتة: لا يمكن للتطبيقات الوصول إلى ملفات تعسفيّة على جهاز الكمبيوتر الخاص بك.
• أنظمة تشغيل معززة. GrapheneOS للهواتف المحمولة موجود، وسهل الاستخدام جدًا. QubesOSللحاسوب المكتبي موجود. حالياً، يبدو أنه أقل قابلية للاستخدام قليلاً من Graphene، على الأقل من وجهة نظري، لكنه يتحسن.
• محاولات التحرك خارج كلمات المرور. كلمات المرور، للأسف، صعبة التأمين لأنها صعبة الحفظ، ولأنمن السهل التنصت عليهم. في الآونة الأخيرة، كان هناك حركة متزايدة نحو تقليل التركيز على كلمات المرور، وجعل المصادقة متعددة العوامل على أساس الأجهزة الأساسيةفعلا تعمل.

ومع ذلك، فإن نقص الدفاع السيبراني في المجالات الأخرى أدى أيضًا إلى تعرض لضربات كبيرة. الحاجة إلى حماية ضد الرسائل غير المرغوب فيها أدت إلى تحول البريد الإلكتروني إلىفي الواقع، يكاد يكون استبداديا اقتصاديا, مما يجعل من الصعب جدًا استضافتها ذاتيًا أو إنشاء مزود بريد إلكتروني جديد. العديد من التطبيقات عبر الإنترنت، بما في ذلك تويتر, تتطلب من المستخدمين تسجيل الدخول للوصول إلى المحتوى، وحجب عناوين الآي بي من شبكات الخوادم الافتراضية، مما يجعل الوصول إلى الإنترنت بطريقة تحمي الخصوصية أصعب. كما أن تركيز البرمجيات في مكان واحد يشكل خطرًا بسبب "التشابك المسلح": الاتجاه الحديث لتوجيه التكنولوجيا من خلال نقاط الاختناق المركزية، ولمشغلي تلك النقاط المركزية استخدام تلك السلطة لجمع المعلومات، وتلاعب النتائج أو استبعاد الجهات الفاعلة الخاصة - وهي استراتيجية يبدو أنها حتى يتم استخدامها حاليًاضد صناعة بلوكشين نفسها.

هذه اتجاهات مقلقة، لأنها تهدد ما كان في الماضي أحد آمالي الكبيرة في سبب مستقبل الحرية والخصوصية، على الرغم من التنازلات العميقة، قد تظل مشرقة. في كتابه"المستقبل غير المكتمل"، يتوقع ديفيد فريدمان أنه قد نحصل على مستقبل توافقي: حيث ستكون العالم الشخصي أكثر وأكثر رصدًا، ولكن من خلال علم التشفير، ستحتفظ العالم الإلكتروني، وحتى تحسن، خصوصيته. لسوء الحظ، كما رأينا، فإن هذا الاتجاه المضاد بعيدًا كل البعد عن الضمان.

هنا حيث تكمن تركيزي الخاص على التقنيات التشفيرية مثل سلاسل الكتل و دلائل الصفريةتأتي البلوكشينات لنا. تتيح لنا تكوين هياكل اقتصادية واجتماعية بـ 'قرص صلب مشترك' دون الحاجة إلى الاعتماد على الجهات المركزية. تسمح العملات الرقمية للأفراد بتوفير الأموال وإجراء المعاملات المالية، كما كانوا يفعلون قبل الإنترنت بالنقد، دون الاعتماد على أطراف ثالثة موثوقة يمكنها تغيير قواعدها بمزاجها. كما يمكن أن تكون أيضًا آلية احتياطية لمكافحة الـ sybil.جعل الهجمات والبريد المزعج مكلفًاحتى بالنسبة للمستخدمين الذين ليس لديهم أو لا يرغبون في الكشف عن هويتهم في العالم الحقيقي. تجريد الحساب، وبشكل ملحوظمحافظ الاسترداد الاجتماعي، يمكن أن يحمي أصولنا الرقمية، وربما أصول أخرى في المستقبل، دون الاعتماد المفرط على الوسطاء المركزيين.

يمكن استخدام دلائل الصفر المعرفةللخصوصية، مما يسمح للمستخدمين بإثبات أمور عن أنفسهم دون الكشف عن المعلومات الخاصة. على سبيل المثال، قم بتغليفهاتوقيع جواز السفر الرقميفي ZK-SNARK لإثبات أنك مواطن فريد في بلد معين، دون الكشف عن هوية المواطن الذي تمتلكه. تقنيات مثل هذه يمكن أن تتيح لنا الاستفادة من فوائد الخصوصية والتواطؤ - الخصائص التي يتفق عليها على نطاق واسع كونهاضروري لتطبيقات مثل التصويت- بينما لا يزال هناك ضمانات أمان ومكافحة البريد المزعج والأطراف السيئة.

تصميم مقترح لنظام وسائل التواصل الاجتماعي ZK، حيث يمكن أن تحدث إجراءات الاعتدال ويمكن معاقبة المستخدمين، كل ذلك دون الحاجة إلى معرفة هوية أي شخص.

Zupass, تعشش في زوزالوفي وقت سابق من هذا العام، هو مثال ممتاز على ذلك في التطبيق العملي. هذا هو تطبيق، الذي تم استخدامه بالفعل من قبل مئات من الأشخاص في Zuzalu ومؤخراً من قبل آلاف من الناس لبيع التذاكر في Devconnect, الذي يتيح لك حمل تذاكر، عضويات، (غير قابل للتحويل)التذاكر Devconnect مالك، دون الكشف عن أي شيء آخر حول هويتك. يمكن عرض هذه البراهين شخصيًا، عبر رمز الاستجابة السريعة، أو رقميًا، لتسجيل الدخول إلى التطبيقات مثلZupoll, نظام تصويت مجهول المصدر متاح فقط لسكان زوزالو.

هذه التقنيات هي مثال ممتاز على مبادئ d / acc: فهي تسمح للمستخدمين والمجتمعات بالتحقق من الجدارة بالثقة دون المساس بالخصوصية ، وحماية أمنهم دون الاعتماد على نقاط الاختناق المركزية التي تفرض تعريفاتهم الخاصة لمن هو جيد وسيئ. فهي تعمل على تحسين إمكانية الوصول العالمية من خلال خلق طرق أفضل وأكثر إنصافا لحماية أمن المستخدم أو الخدمة من التقنيات الشائعة المستخدمة اليوم، مثل التمييز ضد بلدان بأكملها تعتبر غير جديرة بالثقة. هذه بدائيات قوية جدا يمكن أن تكون ضرورية إذا أردنا الحفاظ على رؤية لامركزية لأمن المعلومات في القرن 21st. إن العمل على التقنيات الدفاعية للفضاء السيبراني على نطاق أوسع يمكن أن يجعل الإنترنت أكثر انفتاحا وأمانا وحرية بطرق مهمة للغاية للمضي قدما.

الدفاع عن المعلومات

الدفاع السيبراني، كما وصفته، يتعلق بالحالات التي يكون فيها من السهل على البشر العاقلين التوافق على هوية الهجاج. إذا حاول شخص ما اختراق محفظتك، من السهل الاتفاق على أن القراصنة هم الأشرار. إذا حاول شخص ما هجوم DoS على موقع ويب، من السهل الاتفاق على أنهم يقومون بأعمال شريرة، وأنهم ليسوا أخلاقيًا نفس المستخدم العادي الذي يحاول قراءة ما هو موجود على الموقع. هناك حالات أخرى حيث تكون الخطوط أكثر غموضًا. إنها الأدوات لتحسين دفاعنا في هذه الحالات التي أسميها بـ "الدفاع عن المعلومات".

خذ، على سبيل المثال، التحقق من الحقائق (المعروف أيضًا باسم "منع الإشاعات"). أنامعجب كبير بملاحظات المجتمع, الذي قام بالكثير لمساعدة المستخدمين في تحديد الحقائق والأكاذيب في ما يتم تغريده من قبل مستخدمين آخرين. تستخدم ملاحظات المجتمع خوارزمية جديدة تسلط الضوء على الملاحظات التي ليست الأكثر شهرة، ولكن الملاحظات التي تحظى بموافقة أكبر عدد من المستخدمين عبر الطيف السياسي.

ملاحظات المجتمع في العمل.

أنا أيضًا من محبي أسواق التنبؤ، التي يمكن أن تساعد في تحديد أهمية الأحداث في الوقت الحقيقي، قبل أن يستقر الغبار ويتوافق الجميع على الاتجاه الذي يجب اتخاذه.سوق بوليماركت على سام ألتمانهو مفيد جدًا في تقديم ملخص مفيد للنتائج النهائية للكشف الساعة بالساعة والمفاوضات، مما يوفر السياق الضروري للأشخاص الذين يرون فقط عناصر الأخبار الفردية ولا يفهمون أهمية كل واحدة.

أسواق التنبؤ غالبًا ما تكون معيبة. ولكن الشخصيات المؤثرة على تويتر الذين يرغبون في التعبير بثقة عما يعتقدون أنه "سيحدث" خلال العام القادم غالبًا ما يكونون أكثر تعثرًا حتى. لا يزال هناك مجال لتحسين أسواق التنبؤ بشكل أكبر بكثير. على سبيل المثال، عيب عملي كبير في أسواق التنبؤ هو حجمها المنخفض في كل الأحداث باستثناء الأحداث ذات الشهرة العالية؛ الاتجاه الطبيعي لمحاولة حل هذا الأمر سيكون وجود أسواق تنبؤ يلعبها الذكاء الاصطناعي.

Dentro del espacio de la cadena de bloques, hay un tipo particular de defensa de la información que creo que necesitamos mucho más. Específicamente, las carteras deberían ser mucho más opinativas y activas en ayudar a los usuarios a determinar el significado de las cosas que están firmando y protegerlos de fraudes y estafas. Este es un caso intermedio: lo que es y no es una estafa es menos subjetivo que las perspectivas sobre eventos sociales controvertidos, pero es más subjetivo que distinguir entre usuarios legítimos y atacantes DoS o hackers. Metamask ya tiene una base de datos de estafas y bloquea automáticamente a los usuarios para que no visiten sitios web de estafas.

التطبيقات مثلنارهي مثال على الطريقة للذهاب أبعد من ذلك بكثير. ومع ذلك، يجب ألا تكون برامج الأمان مثل هذه شيء يتطلب تثبيتًا صريحًا؛ يجب أن تكون جزءًا من محافظ العملات المشفرة، أو حتى المتصفحات، افتراضيًا.

بسبب طبيعتها الأكثر ذاتية ، فإن دفاع المعلومات أكثر تجمعًا بشكل طبيعي من دفاع السيبر: تحتاج إلى الاندماج بطريقة ما في مجموعة كبيرة ومتطورة من الأشخاص لتحديد ما قد يكون صحيحًا أو خاطئًا ، وما هو نوع التطبيق الخادع بونزي. هناك فرصة للمطورين للذهاب أبعد من ذلك بكثير في تطوير دفاعات المعلومات الفعالة ، وفي تقوية أشكال دفاع المعلومات الحالية. يمكن تضمين شيء مثل ملاحظات المجتمع في المتصفحات ، وتغطية ليس فقط منصات وسائل التواصل الاجتماعي ولكن أيضًا الإنترنت بأكمله.

تكنولوجيا اجتماعية خارج إطار "الدفاع"

إلى حد ما، يمكن اتهامي بشكل مبرر بإدراج بعض تقنيات المعلومات هذه كونها "دفاعية". بعد كل شيء، الدفاع يتعلق بمساعدة الأطراف الراغبة في الخير على حماية أنفسها من الأطراف النية السيئة (أو، في بعض الحالات، من الطبيعة). ومع ذلك، بعض تلك التقنيات الاجتماعية تتعلق بمساعدة الأطراف الراغبة في الخير على تشكيل توافق.

مثال جيد على هذا هو pol.is, والتي تستخدم خوارزمية مماثلة لملاحظات المجتمع (والتي تسبق ملاحظات المجتمع) لمساعدة المجتمعات في تحديد نقاط الاتفاق بين الفرعيات التي تختلف في الرأي بشكل كبير.Viewpoints.xyzتم إلهامه من pol.is، وله روح مماثلة:

يمكن استخدام التقنيات مثل هذه لتمكين حكم أكثر لامركزية على القرارات الخلافية. مرة أخرى، تعتبر مجتمعات سلسلة الكتل بيئة اختبار جيدة لهذا، وهي واحدة حيث أظهرت تلك الخوارزميات قيمتها بالفعل. بشكل عام، القرارات حول أي تحسيناتEIPsيتم إجراء التغييرات على بروتوكول Ethereum من قبل مجموعة صغيرة إلى حد ما في اجتماعات تسمى جميع مطوري النواة يدعون“. بالنسبة للقرارات التقنية العالية التقنية، حيث لا يمتلك أغلب أفراد المجتمع أي مشاعر قوية، يعمل هذا بشكل مقبول بشكل معقول. بالنسبة للقرارات الأكثر تأثيرًا، التي تؤثر على اقتصاد البروتوكول، أو القيم الأكثر أساسية مثل عدم التغيير ومقاومة الرقابة، في كثير من الأحيان هذا لا يكفي. في العام ٢٠١٦-١٧، عندما كانت هناك سلسلة من القرارات الجدلية حول تنفيذشوكة داو, تقليل الإصدار و (لا) إلغاء تجميد محفظة باريتي, أدوات مثل Carbonvote، وكذلك التصويت عبر وسائل التواصل الاجتماعي، ساعدت المجتمع والمطورين على رؤية الاتجاه الذي كانت تواجهه آراء معظم أفراد المجتمع.

تصويت الكربون على فرع الديسنترالية المؤمنة.

Carbonvote كانت له عيوبها: اعتمدت على حيازات ETH لتحديد من كان عضوًا في مجتمع Ethereum، مما جعل النتيجة مهيمنة من قبل عدد قليل من أصحاب ETH الأثرياء ("الحيتان"). ومع ذلك، يمكننا اليوم إنشاء تصويت على الكربون أفضل بكثير، باستغلال إشارات متعددة مثلPOAPs, طوابع زوباس، جوازات Gitcoin, عضويات نقابة البروتوكول, فضلاً عن محفظة ETH (أو حتى ETH المرهون بمفرده) لقياس عضوية المجتمع.

يمكن استخدام مثل هذه الأدوات من قبل أي مجتمع لاتخاذ قرارات عالية الجودة ، أو العثور على نقاط مشتركة ، أو تنسيق عمليات الترحيل (المادية أو الرقمية) أو القيام بعدد من الأشياء الأخرى دون الاعتماد على القيادة المركزية غير الشفافة. هذا ليس تسارعا دفاعيا في حد ذاته ، ولكن يمكن بالتأكيد تسميته تسريع الديمقراطية. بل يمكن استخدام هذه الأدوات لتحسين وإضفاء الطابع الديمقراطي على إدارة الجهات الفاعلة والمؤسسات الرئيسية العاملة في الذكاء الاصطناعي.

فما هي الطرق المتاحة للذكاء الفائق؟

الأعلى هو كل شيء جيد وجيد، وقد يجعل العالم مكاناً أكثر انسجاماً وأماناً وحرية لقرن المقبل. ومع ذلك، فإنه لا يعالج بعد الفيل الكبير في الغرفة: الذكاء الاصطناعي الفائق.

المسار الافتراضي الذي يقترحه العديد من الذين يقلقهم الذكاء الاصطناعي يؤدي في الأساس إلى حكومة عالمية للذكاء الاصطناعي الحد الأدنى. النسخ القريبة الأجل من ذلك تتضمن اقتراحًا لـ "تكتل AGI متعدد الجنسيات"(“MAGIC”). إذا تم إنشاء مثل هذا الرابطة ونجحت في تحقيق أهدافها في خلق الذكاء الاصطناعي الفائق، ستمتلك مسارًا طبيعيًا لتصبح حكومة عالمية فعلية. على المدى الطويل، هناك أفكار مثل ال"الفعل الحاسم"النظرية: نحن نخلق الذكاء الاصطناعي الذي يقوم بفعل واحد مرة واحدة فقط والذي يعيد ترتيب العالم إلى لعبة حيث من هذا النقطة إلى الأمام البشر ما زالوا في السيطرة، ولكن حيث أن لوح اللعبة أكثر تفضيلاً للدفاع وأكثر ملائمة لازدهار البشر بطريقة ما.

المشكلة العملية الرئيسية التي أراها حتى الآن هي أن الناس لا يبدو أنهم يثقون فعليًا في أي آلية حكم محددة بالقدرة على بناء شيء من هذا القبيل. يصبح هذا الواقع صارخًا عندما تنظر إلى نتائج استطلاعاتي الأخيرة على تويتر، حيث سألت الناس إذا كانوا يفضلون رؤية الذكاء الاصطناعي يتحكم فيه كيان واحد برأس مال يبلغ عقدين مقدمًا، أم تأخير الذكاء الاصطناعي لعقد للجميع:

حجم كل استطلاع صغير، لكن استطلاعات الرأي تعوضه في توحيد نتائجها عبر مجموعة واسعة من المصادر والخيارات. في تسع من أصل تسع حالات، يفضل غالبية الناس أن يروا الذكاء الاصطناعي المتقدمة للغاية متأخرة لمدة عقد من الزمان على أن تحتكرها مجموعة واحدة، سواء كانت شركة أو حكومة أو هيئة متعددة الجنسيات. في سبع من أصل تسع حالات ، فاز التأخير بنسبة اثنين إلى واحد على الأقل. يبدو أن هذه حقيقة مهمة يجب فهمها لأي شخص يسعى إلى الذكاء الاصطناعي التنظيم. تركز الأساليب الحالية على إنشاء خطط الترخيص والمتطلبات التنظيمية ، في محاولة لتقييد تطوير الذكاء الاصطناعي لعدد أقل من الناس ، لكن هذه شهدت مقاومة شعبية على وجه التحديد لأن الناس لا يريدون أن يروا أي شخص يحتكر شيئا بهذه القوة. وحتى لو نجحت مثل هذه المقترحات التنظيمية من أعلى إلى أسفل في الحد من مخاطر الانقراض، فإنها تجازف بزيادة فرصة وجود نوع من الانغلاق الدائم على الشمولية المركزية. ومن المفارقات، هل يمكن أن تكون الاتفاقات التي تحظر البحوث الذكاء الاصطناعي المتقدمة للغاية بشكل مباشر (ربما مع استثناءات الذكاء الاصطناعي الطبية الحيوية)، جنبا إلى جنب مع تدابير مثل تفويض المصدر المفتوح لتلك النماذج غير المحظورة كوسيلة للحد من دوافع الربح مع زيادة تحسين المساواة في الوصول، أكثر شعبية؟

النهج الرئيسي المفضل من قبل معارضي "دعونا نحصل على منظمة عالمية واحدة للقيام بالذكاء الاصطناعي وجعل حكمها جيدًا حقًا" هو الذكاء متعدد الآلهة: محاولة متعمدة للتأكد من أن هناك الكثير من الأشخاص والشركات التي تطوّر الكثير من الذكاء الاصطناعي، بحيث لا ينمو أي منها بشكل أقوى بكثير من الآخر. وبهذه الطريقة، يذهب النظرية، حتى مع تحول الذكاء الاصطناعي إلى سوبر، يمكننا الاحتفاظ بتوازن القوى.

هذه الفلسفة مثيرة للاهتمام، ولكن تجربتي في محاولة ضمان 'الشركاء' داخل نظام الأيثيريوم تجعلني أقلق بأن هذا توازن غير مستقر بشكل جوهري. في الأيثيريوم، حاولنا بشكل متعمد ضمان لامركزية العديد من أجزاء النظام: ضمان عدم وجود قاعدة بيانات برمجية واحدة تسيطرأكثر من نصف شبكة الإثبات النقدي, يحاول التصدي للسيطرة حمامات الرهان الكبيرة, تحسيناللامركزية الجغرافية, وهكذا. في الأساس ، إن محاولة إثيريوم هي في الواقع تنفيذ حلم الليبراليين القديم بمجتمع قائم على السوق يستخدم الضغط الاجتماعي ، بدلاً من الحكومة ، كمنظم لمنافسة الأسواق. إلى حد ما ، هذا قد نجح: الهيمنة العميل Prysmلقد انخفضت من أعلى 70٪ إلى أقل من 45٪. ولكن هذا ليس عملية سوقية تلقائية: إنه نتيجة للنية البشرية والعمل المنسق.

تعكس تجربتي داخل إيثريوم تعلمات من العالم بأسره، حيث ثبت أن العديد من الأسواقالاحتكارات الطبيعية. مع الذكاء الاصطناعي الفائق الذي يعمل بشكل مستقل عن البشر، الوضع أصبح أكثر عدم استقرارا. بفضل تحسين الذات التكراري، قد يتقدم أقوى الذكاء الصناعي بسرعة كبيرة جدًا، وبمجرد أن تكون الذكاءات الصناعية أقوى من البشر، فإنه ليس هناك قوة يمكنها دفع الأمور مرة أخرى إلى التوازن.

بالإضافة إلى ذلك، حتى لو حصلنا على عالم متعدد الآلهة من الذكاء الاصطناعي الفائق الذي ينتهي بالاستقرار، لا يزال لدينا مشكلة أخرى: أننا نحصل على كون حيث يكون البشر حيوانات أليفة.

مسار سعيد: دمج مع الذكاء الاصطناعي؟

خيار مختلف سمعت عنه مؤخرًا هو التركيز أقل على الذكاء الاصطناعي كشيء منفصل عن البشر، وأكثر على الأدوات التي تعزز الإدراك البشري بدلاً من استبداله.

مثال قريب المدى على شيء يتجه في هذا الاتجاه هو أدوات رسم الذكاء الاصطناعي. اليوم، الأدوات الأكثر بروزاً لإنتاج صور تم إنشاؤها بواسطة الذكاء الاصطناعي لديها خطوة واحدة فقط حيث يقدم الإنسان مدخلاتهم، ومن ثم يتولى الذكاء الاصطناعي بالكامل. بديل آخر سيكون التركيز أكثر على الإصدارات الخاصة بالذكاء الاصطناعي من فوتوشوب: أدوات حيث يمكن للفنان أو الذكاء الاصطناعي إعداد مسودة مبكرة لصورة، ومن ثم يتعاون الاثنان في تحسينها من خلال عملية ردود الفعل في الوقت الحقيقي.

ملء الذكاء الاصطناعي الإبداعي في Photoshop، 2023.المصدر. لقد جربت ذلك، ويستغرق الأمر بعض الوقت للتعود عليه ولكنه يعمل بشكل جيد في الواقع!

اتجاه آخر بروح مماثلة هو بوابة الوكالة المعمارية, الذي يقترح تقسيم أجزاء مختلفة من "عقل" الذكاء الصناعي (على سبيل المثال، وضع الخطط، وتنفيذ الخطط، وتفسير المعلومات من العالم الخارجي) إلى مكونات منفصلة، وإدخال تغذية راجعة بشرية متنوعة بين هذه الأجزاء.

حتى الآن، يبدو هذا عاديًا، وشيء يمكن أن يتفق عليه الجميع تقريبًا بأنه سيكون من الجيد الحصول عليه. عمل الاقتصادي دارون أكيموغلو على بعد كثير من هذا النوع من تكنولوجيا الذكاء الاصطناعي، لكن كتابه الجديدالقوة والتقدميشير إلى رغبة في رؤية المزيد من هذه الأنواع تماما من الذكاء الاصطناعي.

ولكن إذا أردنا تبني هذه الفكرة التعاون بين البشر والذكاء الاصطناعي أكثر، فإننا نصل إلى استنتاجات أكثر جرأة. ما لم نقم بإنشاء حكومة عالمية قوية بما يكفي لاكتشاف وإيقاف كل مجموعة صغيرة من الأشخاص يخترقون على بطاقات الرسومات الفردية باستخدام الكمبيوترات المحمولة، فسيقوم شخص ما بإنشاء ذكاء اصطناعي فائق الذكاء في النهاية - واحد يمكنه التفكير في أسرع بألف مرةثم يمكننا - ولا يوجد مزيج من البشر باستخدام الأدوات بأيديهم سيكون قادرًا على الوفاء بذلك. وبالتالي نحتاج إلى أخذ هذه الفكرة من التعاون بين الإنسان والكمبيوتر أعمق وأبعد.

خطوة طبيعية أولى هي واجهات الدماغ الحاسوبية. يمكن لواجهات الدماغ والحاسوب أن تمنح البشر وصولا مباشرا أكثر فأكثر إلى أشكال أكثر قوة من الحساب والإدراك ، مما يقلل من حلقة الاتصال ثنائية الاتجاه بين الإنسان والآلة من ثوان إلى أجزاء من الثانية. هذا من شأنه أيضا أن يقلل بشكل كبير من تكلفة "الجهد العقلي" للحصول على جهاز كمبيوتر لمساعدتك في جمع الحقائق أو تقديم اقتراحات أو تنفيذ خطة.

مراحل لاحقة من هذه الخريطة تصبح بشكل معترف به غريبة. بالإضافة إلى واجهات الدماغ والحاسوب، هناك مسارات مختلفة لتحسين عقولنا مباشرة من خلال الابتكارات في مجال الأحياء. خطوة إضافية نهائية، التي تدمج كلا المسارين، قد تنطوي علىرفع عقولنالتشغيل على الكمبيوتر مباشرة. سيكون هذا أيضًا الحل النهائي للأمان الفعلي: حماية أنفسنا من الضرر لن تكون مشكلة صعبة من حماية الجسم البشري الذي يمكن أن يتألم بشكل لا مفر منه، وإنما مشكلة أبسط بكثير من عمل النسخ الاحتياطي للبيانات.

التوجيهات مثل هذه تثير أحيانًا القلق، جزئيًا لأنها لا رجعة فيها، وجزئيًا لأنها قد تمنح الأشخاص النافذين مزيدًا من الميزات على بقية منا. واجهات الدماغ والحاسوب خاصة لها مخاطر - بعد كل شيء، نتحدث عن قراءة وكتابة حرفيًا إلى عقول الناس. هذه المخاوف هي بالضبط السبب في أنني أعتقد أنه سيكون مثاليًا لتولي دور رائد في هذا المسار من قبل حركة مفتوحة المصدر تركز على الأمان، بدلاً من الشركات المغلقة ورؤوس الأموال الاستثمارية الخاصة. بالإضافة إلى ذلك، جميع هذه المسائل تكون أسوأ مع الذكاء الصناعي الفائق الذي يعمل بشكل مستقل عن البشر، منها مع التحسينات التي ترتبط ارتباطًا وثيقًا بالبشر. الفجوة بين المحسنين وغير المحسنين موجودة بالفعل اليوم بسببالقيود في من يستطيع ومن لا يمكنه استخدام ChatGPT.

إذا كنا نريد مستقبلًا يكون سوبر ذكيًا و"إنسانيًا"، حيث لا تكون البشر مجرد حيوانات أليفة، ولكنهم في الواقع يحتفظون بوكالة ذات مغزى على العالم، فإنه يبدو وكأن شيئًا من هذا القبيل هو الخيار الأكثر طبيعية. وهناك أيضًا حجج جيدة تفسر لماذا يمكن أن يكون هذا مسار توجيه الذكاء الاصطناعي أكثر أمانًا: من خلال إشراك ردود الفعل البشرية في كل خطوة من خطوات اتخاذ القرار، نقلل من الحافز لتفويت المسؤولية عن التخطيط على مستوى عالٍ إلى الذكاء الاصطناعي نفسه، وبالتالي نقلل من الفرصة التي يقوم فيها الذكاء الاصطناعي بفعل شيء غير متوافق تمامًا مع قيم الإنسانية من تلقاء نفسه.

واحدة من الحجج الأخرى لصالح هذا الاتجاه هو أنه قد يكون أكثر قبولًا اجتماعيًا من مجرد الصراخ " توقف الذكاء الاصطناعيدون رسالة مكملة تقدم بديلًا للمسار الأمامي. سيتطلب ذلك تحولًا فلسفيًا عن الوجودية الحالية التي تعتبر أن التقدم التكنولوجي الذي يمس البشر خطير، بينما التقدم الذي يكون منفصلًا عن البشر آمن بشكل افتراضي. ولكن لديه فائدة مضادة هائلة: إنه يمنح المطورين شيئًا للقيام به. اليوم، يبدو أن الرسالة الأساسية لمطوري الذكاء الاصطناعي في حركة سلامة الذكاء الاصطناعي تبدو ""يجب أن تتوقف فقط“. يمكن للشخص العمل على أبحاث التوجيه, ولكن اليوم يفتقر هذا إلى حوافز اقتصادية. مقارنة بهذا، فإن الرسالة الشائعة 'أنت بالفعل بطل بالطريقة التي أنت عليها' جذابة بشكل مفهوم للغاية. الرسالة الأخرى، التي تقول 'يجب عليك البناء، وبناء أشياء ربحية، ولكن يجب أن تكون أكثر انتقاء وتصميمًا في التأكد من أنك تقوم ببناء أشياء تساعدك وتساعد البشرية على الازدهار'، قد تكون رابحة.

هل يتوافق d/acc مع فلسفتك الحالية؟

• إذا كنت e/acc، فإن d/acc هو فصيلة من e/acc - فقط واحدة تكون أكثر اختيارية وتعمدًا بكثير.
• إذا كنت فعال خيري, ثم يكون d/acc إعادة تسمية لفكرة الفعالية الخيرية الفعالةتطوير تقنيات التفاوت، على الرغم من التركيز الأكبر على القيم الليبرالية والديمقراطية.
• إذا كنت من الأحرار، فإن d/acc هي نوع فرعي من التكنوليبرتارية، على الرغم من أنها أكثر تحيزًا وتكتيكية وتعقيدًا من "آلة الرأسمالة التكنولوجية"، وعلى استعداد لقبول تدخلات الحكومة اليوم (على الأقل، إذا لم تعمل التدخلات الثقافية) لمنع الاضطهاد الأسوأ غدًا.
• إذا كنت متعدد القوميات، في الـمفهوم غلين ويل للمصطلح, ثم d/acc إطار يمكن أن يتضمن بسهولة التركيز على تكنولوجيا التنسيق الديمقراطي الأفضل التي تقدر الاختلافات.
• إذا كنت مدافعًا عن الصحة العامة، فإن الأفكار المبتكرة يمكن أن تكون مصدرًا لرؤية طويلة المدى أوسع، وفرصة للعثور على نقاط تقارب مع "أشخاص التكنولوجيا" الذين قد تشعر وإلا بالتناقض معهم.
• إذا كنت من مؤيدي تقنية البلوكشين، فإن d/acc هو سرد أكثر حداثة وأوسع نطاقًا لاعتماده من التركيز على التضخم الفائق والبنوك البالغة خمسة عشر عامًا، الذي يضع التقنيات البلوكشين في سياق واحدة من العديد من الأدوات في إستراتيجية ملموسة للبناء نحو مستقبل أكثر إشراقًا.
• إذا كنت سولاربانك, ثم d/acc هو فرع من فروع السولاربانك، ويضم تركيزًا مشابهًا على النية والعمل الجماعي.
• إذا كنت lunarpunk, ثم ستقدر التركيز على الدفاع الإعلامي، من خلال الحفاظ على الخصوصية والحرية.

نحن ألمع نجم

أحب التكنولوجيا لأن التكنولوجيا توسع إمكانيات الإنسان. قبل عشرة آلاف عام، كنا قادرين على بناء بعض الأدوات اليدوية، وتغيير أنواع النباتات التي تنمو على قطعة صغيرة من الأرض، وبناء منازل أساسية. اليوم، يمكننا بناء أبراج بارتفاع 800 متر, تخزين مجموعة المعارف البشرية المسجلة بأكملها في جهاز يمكننا حمله في أيدينا، التواصل عبر العالم على الفور، مضاعفة عمرنا، وعيش حياة سعيدة ومليئة دون خوف من وفاة أفضل أصدقائنا بانتظام بسبب المرض.

بدأنا من القاع، الآن نحن هنا.

أعتقد أن هذه الأمور جيدة بعمق، وأن توسيع نطاق وصول البشرية إلى المجرات والنجوم هو أمر جيد بعمق، لأنني أعتقد أن الإنسانية جيدة بعمق. إنه شائع في بعض الدوائر أن يكون الشك هو المسيطر: الحركة الانقراض البشري الطوعيةيُجادل بأن الأرض ستكون أفضل من دون وجود البشر على الإطلاق، والكثير من الناس يريدون أن يرواعدد أصغر بكثير من البشرانظر إلى نور هذا العالم في القرون القادمة. من الشائع أنيُجَادِلذلكالبشر سيئونلأننا نغش ونسرق، ونشارك في الاستعمار والحرب، ونسيء ونقضي على الأنواع الأخرى. ردي على هذا النوع من التفكير هو سؤال بسيط: مقارنة بما؟

نعم، البشر غالبا ما يكونون قاسيين، ولكننا في الغالب نظهر اللطف والرحمة، ونعمل معًا لصالحنا المشترك. حتى خلال الحروب غالبا ما نبذل جهودًا لحماية المدنيين - بالتأكيد ليس بما فيه الكفاية، ولكن أيضًا أكثر بكثير منفعلنا ذلك قبل 2000 عام. القرن القادم قد يحمل بشكل جيد لحوم خالية من الحيوانات متاحة على نطاق واسع، مما يقضي على الأكبر كارثة أخلاقيةأن البشر يمكن أن يُلاموا على ما يحدث اليوم. الحيوانات غير البشرية ليست كذلك. ليس هناك أي موقف يتبنى فيه القط نمط حياة بأكمله رفض تناول الفئران كمسألة مبدأ أخلاقي. الشمس تزداد سطوعًا كل عام، وبعد حواليمليار سنة، من المتوقع أن يجعل هذا الأمر الأرض حارة جدًا لا تستطيع تحمل الحياة. هل تفكر الشمس حتى في الإبادة الجماعية التي ستتسبب فيها؟

ولذا فإنني أؤمن إيمانا راسخا بأنه، من بين كل الأشياء التي عرفناها ورأيناها في كوننا، نحن، البشر، ألمع نجم. نحن الشيء الوحيد الذي نعرفه عن ذلك ، حتى لو كان غير كامل ، في بعض الأحيان نبذل جهدا جادا للاهتمام ب "الخير" ، وتعديل سلوكنا لخدمته بشكل أفضل. بعد ملياري سنة من الآن ، إذا كانت الأرض أو أي جزء من الكون لا يزال يحمل جمال الحياة الأرضية ، فستكون مصنوعات بشرية مثل السفر إلى الفضاء و الهندسة الجيوسيكون ذلك قد جعلها تحدث.

نحتاج إلى البناء والتسارع. ولكن هناك سؤال حقيقي جدًا يحتاج إلى طرحه: ما هو الشيء الذي نحن نتسارع نحوه؟ قد يكون القرن الحادي والعشرين بمثابةالقرن الحاسمللإنسانية، القرن الذي يُقرر فيه مصيرنا لآلاف السنين القادمة. هل نقع في أحد الفخاخ التي لا يمكننا الهروب منها، أم نجد طريقًا نحو مستقبل نحافظ فيه على حريتنا ووكالتنا؟ هذه مشكلات تحديّة. ولكنني أتطلع لمشاهدة والمشاركة في الجهد الجماعي العظيم لجنسنا لإيجاد الإجابات.

إخلاء المسؤولية:

1. تم نقل هذه المقالة من [Gateفيتاليك بوتيرين]. جميع حقوق الطبع والنشر تنتمي إلى الكاتب الأصلي [فيتاليك بوتيرين]. إذا كان هناك اعتراضات على هذا النقل، يرجى التواصل معبوابة تعلمالفريق، وسيتولى التعامل معها على الفور.
2. إخلاء المسؤولية عن الضرر: الآراء والآراء المعبر عنها في هذه المقالة هي فقط تلك التي تعود إلى المؤلف ولا تشكل أي نصيحة استثمارية.
3. يتم إجراء ترجمات المقالة إلى لغات أخرى من قبل فريق Gate Learn. ما لم يذكر غير ذلك ، يُحظر نسخ أو توزيع أو نسخ المقالات المترجمة.