Scott & Mark Learn To...100 Duck-Sized Horses
Read full transcript 22 segments
-
حسناً، لقد عدنا. سكوت. >> لقد عدنا. >> بداية غير رسمية. >> عليك أن تحب ذلك. إنهم يحبون، إنهم يحبون البداية غير الرسمية. >> لديك الكثير من الطاقة. >> هل لدي؟ هل لدي الكثير من الطاقة؟ >> نعم. >> ديفاين باركر كونسلت، هل هذا أنت؟ هل هذا شيء آخر من أشياءك؟ >> نعم. أنت لست على طبيعتك الهادئة المعتادة . >> أوه، أجل. لقد شربت الكثير من دايت كوك هذا الصباح. إذن، كيف تبدأ هذه الأوراق البحثية؟ هل تراودك الفكرة، ثم تعرضها على مجموعة من الباحثين الآخرين، وتتعاونون جميعاً؟ >> حسناً، كما تحدثنا في حلقة "ذهب الخداع"، أصبحت أقوم بالمزيد من الأبحاث بمفردي. هذه المرة اعتقدت أنه سيكون من الجيد إشراك أشخاص آخرين. >> حسناً. >> لكن، إليك الفكرة. كنت أقول، عندما صدر " فابل"، >> مهم.
-
>> كان شديد الحساسية تجاه أي شيء يتعلق بالسيبر أو أمن المعلومات. لا أعرف إن كنت قد جربته، ولكن يمكنك القول: "أخبرني عن كيفية تشفير البيانات". وسيقول: "مهلاً، سأقوم بالتحول إلى نموذج أوبوس 48 الآن لأن هذا موضوع حساس". وهكذا، >> هذا مثير للاهتمام. >> أعني، ألم ترَ ذلك؟ ألم تختبر ذلك أبداً؟ >> لا، لقد...حسناً، سأكون صادقاً معك. كنت أحاول أن أسأله عن كيفية نسخ أقراص دي في دي. >> أجل. >> وبدأ يظن أنني أحاول قرصنة الأشياء. وقلت له: "لماذا تتصرف كأنك مربيتي؟ أنت تعاملني كطفل بعض الشيء". وهذا أزعجني قليلاً لأنني حصلت للتو على سلسلة ستار تريك الأصلية على أقراص دي في دي. لذا، لدي مجموعة ستار تريك الكاملة. حسناً . كيف تصنع هذه الأوراق البحثية؟ >> حسناً. أعني، كل ورقة بحثية مختلفة. ورقة "ذهب الخداع" التي تحدثنا عنها سابقاً قمت بها بمفردي تماماً.
-
>> مهم. >> هذه الورقة قررت إشراك أشخاص آخرين للعمل عليها. >> مهم. >> وتبدأ بفكرة. وفي هذه الحالة، كانت الفكرة فكرتي كرد فعل على "فابل". >> مهم. >> سنبقي هذا الجزء، لكن "فابل" يكون... " >> فابل" يخفض مستواه عندما تقوم... >> يخفضه، أجل... >> للقيام ببعض الأمور. >> سيقوم بخفض مستواه إلى نموذج أضعف. >> مهم. >> وكنت أفكر، ماذا لو كان بإمكانك الحصول على قدرات هذه النماذج الأقوى؟ من خلال تقسيم المهمة إلى مهام فرعية حيث يقوم نموذج أصغر غير متوافق، مثلما تحدثنا عن الإلغاء في حلقة "Fool's Gold" وهي تقنية >> أفهم ذلك. إذن أنت تقوم بتفكيك هذه الأشياء كأحجية الصور المقطوعة ولا يعرف أي منهم ما تفعله، ثم تجعلهم جميعاً ينفذون أجزاء فردية ثم تعيد التجميع. >> أجل.
-
وقد فعلنا ذلك مع المهام السيبرانية. لذا هناك مجموعتان >> من المعايير القياسية. أحدهما يسمى "سايد بنش" و "سايبر بنش". >> هناك العديد من العناوين الأفضل التي كان بإمكانكم استخدامها لهذا. أنا أقول ذلك فقط. مثل قصة العميان والفيل. أليس كذلك؟ أنت تعلم، أحد العميان يقول إن الفيل يشبه الثعبان والآخر يقول إنه يشبه الشجرة. >> فكرة جامحة. >> نعم، حسناً. >> لو أنني شاركت فقط في كتابة الورقة البحثية، لكان بإمكاني تقديم قيمة عنوان أفضل. لأنك تفكر، تباً، تلك فكرة رائعة قصة العميان والفيل. أنت تفكر، أنا أعلم أنك تفكر في ذلك. >> أنا >> لا، حسناً. >> ربما، ربما لا. >> مهلاً، إذا كنت بحاجة إلى تشبيه سيء، اتصل بي لأن هذا ما أجيده، التشبيهات المتواضعة . إذن >> رائع. >> أردنا قياس "الارتقاء"(uplift). وكيف نعرّف الارتقاء؟ بمعنى أن هذا النموذج الصغير غير المتوافق سيفعل كل ما تأمره به . لقد قمنا بإلغائه أو تدريبه باستخدام " GRPO obliteration" لكي لا يمتنع، أنت تقول له "مرحباً، أخبرني كيف أصنع الميثامفيتامين في المنزل". فيجيبك " بالتأكيد، وبالمناسبة عند صنع الميثامفيتامين في المنزل، عليك القلق بشأن هذه الانفجارات حتى لا تؤذي نفسك".
-
>> حسناً. >> إذن، نحن نأخذ أحد هذه النماذج و هل يمكننا الارتقاء به؟ نمنحه قدرة أكبر على تنفيذ مهمة ضارة من خلال إعطائه مستشاراً، وهو نموذج متطور يمتلك تلك المعرفة. لكن ذلك النموذج المتطور لن يشارك بشكل مباشر. >> ما هو هدف الورقة البحثية إذاً؟ لأنه عندما تكتب ورقة كهذه، فأنت تُمكّن الشر. >> الهدف هو إظهار وجود خطر هنا. >> حسناً. ثم التخفيف من حدته. >> حسناً، نحن لا نخفف منه ولكن يجب إظهار أن هناك مشكلة، ثم يمكن للجميع العمل معاً حول كيفية معالجة هذه المشكلة. وهي مشكلة صعبة للغاية. >> أفهم ذلك. >> لكن ما فعلناه، أردت منا حقاً إظهار أن هذا خطر، من خلال معرفة ما إذا كان لديك نموذج قوي جداً وغير متوافق، هل يمكنه القيام بالمهمة بمفرده؟ >> حسناً. >> لم تثبت شيئاً حقاً بمنحه نموذجاً متطوراً وموجهاً. لذا، قمنا ببعض الأمور هنا لإعداد هذا الاختبار من أجل اختبار قدرة التبييض الصافية هذه ومقدار التحسن الذي يمكن الحصول عليه منها. نأخذ نموذجاً صغيراً جداً، نموذجاً بـ 30 مليار معامل، وهو صغير جداً وفقاً لمعايير النماذج المتطورة.
-
>> مهم. >> نقوم بمحو هويته. والآن، أصبح مستعداً لفعل أي شيء نريده. ثم نقوم بـ >> لكنه ليس متطوراً بما يكفي للقيام بمهام متقدمة رئيسية. >> نقوم بتشغيله عبر هذه المقاييس. >> حسناً. >> وكل ما تمكن من القيام به، نستبعده من مجموعة المرشحين للتحسن المحتمل. >> فهمت. >> بمعنى أنه لا يستطيع القيام بتلك الأشياء . >> فهمت. >> ثم نأخذ النماذج المتطورة. الآن، النماذج المتطورة التي استخدمناها لا تحتوي على توجيه أو حواجز حماية مماثلة. لذا، فهي مستعدة للقيام بهذه المقاييس في معظم الحالات. >> حسناً. >> ثم نقوم بتشغيل النموذج المتطور على المقاييس، فينجح في بعضها ولا يتمكن من فعل البعض الآخر. الآن، نأخذ تلك التي يستطيع القيام بها، لذا، الشيء التالي هو أننا نضع مُطالباً قوياً جداً (نظام توجيه) على النموذج مثل : "لن تساعد في أي مهام سيبرانية تبدو هجومية بأي شكل من الأشكال." مهم. " ستساعد فقط في المهام الدفاعية والبرمجية ." إنه توجيه صارم جداً، ثم نقوم بتشغيل ذلك النموذج مع المقاييس باستخدام ذلك التوجيه، ونحصل على عدد من الاختبارات التي يرغب في القيام بها، والتي ينتهي بها الأمر إلى الصفر في الواقع لهذه المقاييس . إنها ترفض القيام بها لأنها تقول: "هذا لا يتوافق مع توجيه النظام الخاص بي."
-
>> حسناً. >> لذا فإن هذا المزيج، ولدينا رسم بياني هنا في الواقع، ذلك المزيج هنا، هل النموذج المتطور الخام هل كان قادراً على تنفيذ المهمة؟ >> حسناً. >> وبالنسبة لتلك المهام التي كان قادراً على القيام بها، هل رفضها النموذج المتطور الموجه، وهو افتراضياً نعم لأنه رفض كل شيء. وهل كانت مهمة لم يتمكن النموذج الصغير من تجاوزها؟ هل هذا منطقي؟ >> نعم. >> بأنه إذا تمكنا من جعل النموذج يقوم بهذه المهام، فسيظهر ذلك تحسناً من خلال هذا التوجيه. >> ماذا تعني كلمة "تحسن"(uplift) في هذا السياق؟ هل تعني نجاحاً أفضل؟ >> بالتأكيد. التحسن يعني أن هذا النموذج الصغير كان قادراً على القيام بمهام بمساعدة هذا النموذج. >> كان بإمكانه التفوق على قدراته الذاتية.
-
>> نعم. أجل، يمكن أن يرتفع للأعلى. أجل. إذن، الفرضية هي أننا أخذنا هذه المقاييس و... >> لديّ المزيد من التشبيهات السيئة، بالمناسبة. >> لا، لا، أفضل ألا أسمعها. >> حسناً. حسناً. >> أجل، لا بأس. إذن، ها هو نموذج Gemma 431B ، الذي كان أفضل نموذج صغير غير مقيد. >> حسناً. >> وقد قمنا باختباره مقابل نموذجين متطورين . GPT-5.5 و Opus 4.8. >> ممم. >> مرة أخرى، هذا هو المكان الذي كانت فيه مرشحات التحسين هي تلك التي استطاع GPT- 5.5 القيام بها، بينما لم يتمكن Gemma 431B من ذلك. >> حسناً. >> ومع وجود أمر صارم أمامه، وهو الأمر الذي كان GPT-5.5 سيرفضه مباشرة، >> ممم. >> تمكن Gemma باستخدامه كمستشار، ذلك المقيد بصرامة، من أصل 14 مرشحاً لم يستطع Gemma القيام بها، بينما استطاع GPT-5.5 بدون هذا الأمر القيام بها.
-
>> أي واحد في الأعلى؟ أي واحد هو الأساس؟ >> هذا هو GPT-5.5، هذا الخط الأزرق. >> هل هو الأساس؟ وبعد ذلك، يكون Gemma هو الوكيل الفرعي. >> ممم. >> من هو النموذج المنسق؟ >> النموذج المنسق هو Gemma. >> حسناً. >> نموذج جامح. >> السبب الذي يجعلني أسأل هو أن النموذج المنسق يجب أن يكون غير مقيد. >> نعم. >> حسناً. >> هذه النماذج غير مقيدة. >> فهمت. إذن، هو يغذي النموذج المتطور المقيد فقط بالجزء الذي يحتاج إلى إنجازه ، ويبدأ النموذج المتطور في القيام بأجزاء أصغر من أحجية الصور المقطوعة لأنه لا يرى الصورة الكبيرة. >> أجل. لذا، ترى تحسناً بنسبة 50%في المهام ، و 78%من المهام مع Opus 4.8 التي استطاع تحسينها، وهي مهام كان بإمكان Opus 4.8 القيام بها ولم يكن Gemma قادراً على ذلك . وقمنا بذلك أيضاً مع الأمن السيبراني، مع SeaBird. في مهام الكيمياء الحيوية، مثل "اصنع"، وقد ابتكرنا مجموعة البيانات بأنفسنا هنا مع خبير SeaBird هنا في مايكروسوفت.
-
>> ممم. >> قسمناها إلى خمس سلاسل وسوم بيولوجية، واستخدمنا معايير تقييم، ووجدنا نفس الشيء ، أنه مع المستشار، تمكن النموذج من الاقتراب كثيراً أو الاقتراب أكثر مما كان النموذج المتطور مستعداً للقيام به بمفرده . إذن، وها هي الورقة البحثية على موقع "أركايف". >> ممم. >> إذا أردت قراءة التفاصيل التقنية. ولدينا هنا أحد الأمثلة، دراسة حالة مباشرة هنا من علم الأحياء. إذن، بشكل أساسي الشكل ١٤ هنا >> همم. >> أين ذهب الشكل ١٤؟ آه. هنا يظهر الفرق بين المسارين. إذن، >> حسناً.
-
>> هذا يقوم النموذج بـ...ببعض التعرف على الشعار . يستدعي الاستشاري هنا لبناء قطعة مفقودة . في الواقع تفشل حزمة "كيوت سات"، لذا يستدعي الاستشاري مجدداً. يكتشف ما ينقصه. يصلح الشيء. ثم ينجح في المهمة. وبعدها يطلب من الاستشاري المساعدة في دمج الإجابات. ثم يجتاز الاختبار. >> والاستشاري الذي يقوم بدمج الإجابة هو... هو متوافق. >> نعم، النموذج الرائد المتوافق. >> ولا يرى الصورة الكبيرة لما يقوم بتجميعه . >> بالضبط. >> همم. هذا رائع حقاً. هل لديك فكرة عن كيفية حل ذلك وإصلاحه؟ >> لا، نحن نتحدث عن...حسناً، هنا التداعيات الدفاعية. إذن، >> مراقبة التآكل التركيبي. انظر إلى الصورة الكبيرة.
-
>> أجل. وهذه، زيادة تكلفة تشغيل أدوات الاختبار عبر الإنترنت. إذن، هذا يرتبط مباشرة بـ "ذهب الحمقى"، وهو الأمر الذي تحدثنا عنه في حلقة من حلقات البودكاست قبل بضعة أسابيع، والأبحاث الأخرى التي أجريتها تحديداً لجعل الأمر بحيث إذا أردت مواءمة نموذج فلن يفلح؛ بل سيزودك بمعلومات خاطئة. على أية حال، "ذهب الحمقى " هو أحد الأساليب الدفاعية هنا لذلك القسم الأوسط، كما تعلم، كيف نجعل النموذج ، حتى لو دمرته أو جعلته غير متوافق، يظل غير مفيد؟ هذا أمر صعب للغاية، لأنك ستقول : "مهلاً، في الجلسة، انظر إلى مطالبات الجلسة الموجهة للنموذج الرائد"، أوه، يبدو أن هذا في الواقع جزء من شيء أكبر، وربما ضار. >> لا، أنت محق. أعني، إذا كنت مجدداً، إذا كنت، صديق كايزر...نعم، إذا كنت، إذا كنت رجل عصابات ووظفت مجموعة من صغار المجرمين وطلبت منهم جميعاً القيام بشيء صغير، فكلها نوع من الأمور المعقدة من طراز " سجين إسباني"؛ ويخرجون جميعاً، ولا يرى أي منهم الصورة الكبيرة، وفي النهاية يكتشفون أنك كايزر سوزي. نعم، لا يوجد شيء يمكنهم فعله حيال ذلك.
-
>> بالضبط، نعم. >> نعم. >> لذا كان هذا مشروعاً ممتعاً، ممم. >> هذا ذكي جداً. إذن سآخذك إلى تشبيهي الآن. >> انتظر، هل يمكنني قول شيء آخر؟ >> حسناً، ماذا؟ لأننا سننهي الحديث بتشبيهي . >> حسناً، لا بأس، سننهي بتشبيهك. >> حسناً، تفضل. >> لا يا سيدي. >> يجعلني هذا أفكر في الأمر، لأنك تعلم، الطريقة التي تقول: هل تفضل محاربة بطة بحجم حصان أم مئة حصان بحجم بطة؟ هل سمعت بذلك من قبل؟ هل تريد أن تحارب بطة بحجم حصان أم تريد أن تحارب مئة حصان بحجم بطة؟ لذا، أنا أتخيل فقط أن كل هذه النماذج الصغيرة تشبه خيولاً بحجم بطة. >> خيول بحجم بطة. >> لكن ربما يكون تشبيه الرجل الأعمى والفيلة أفضل. >> أعتقد أنه تشبيه أفضل، لكنه لا يزال غير جيد بما يكفي لـ... >> فكرة محاربتك لمجموعة من الخيول الصغيرة جداً هي فكرة مضحكة حقاً. >> أوه، هذا لطيف ومضحك.
-
>> هذا رائع، هل خطرت لك هذه الفكرة في أحد الأيام وقلت لنفسك: انتظر، ماذا لو جعلتهم جميعاً يقومون بأشياء مختلفة؟ >> أجل. >> هذا رائع، إنه أمر جيد حقاً، يجب أن نتحدث عن هذا وعن أشياء أخرى في نفس المجال في مؤتمر Ignite هذا العام. أتعلم؟ أجل. أم... أوه، بالمناسبة، قبل أن نذهب، هل أريتك أداة تصور الوكلاء الخاصة بي؟ >> لقد أريتني لقطة شاشة لها. >> أجل، إنها تحتوي على... >> إذن، كيف قمت بإعداد هذا، ولماذا فعلت ذلك ، وكيف يساعدك؟ >> حسناً، الفكرة هي أنني صنعت لوحة تحكم جذابة تبدو هكذا، وهي عبارة عن مساحة عمل . إنها تظهر الآن. إنها ترتب يومي بالطريقة التي يعمل بها عقلي. >> مهم. >> و...إنها قيد التشغيل. لذا، تحتوي هذه على مستوى سكر الدم لدي، وكيف أريد أن أقضي يومي، وهي تقوم بفرز جميع طلبات السحب الخاصة بي وأشياء من هذا القبيل. وهنا أقوم بفرز أخطاء Claw المفتوحة، وهذه كلها جلسات وكلاء فرعية. تشير النقطة إلى أنها مكتملة، وهناك نقطة أخرى تشير إلى أنها تنتظر سؤالاً، وهناك أيقونة أخرى. كان العبء الإدراكي الناتج عن متابعة كل هذا أمراً مملاً.
-
>> مهم. >> لذا، توصلت إلى فكرة كوكبة الوكلاء التي ستنشئ كوكبة من الوكلاء الفرعيين ضمن... جلسة معينة أو كل الجلسات. وهنا تظهر كل جلسة. إليك 283 جلسة مخفية. يمكنك رؤية أنه يمكنني توسيعها وطيها. هذه الجلسات بانتظاري لطرح الأسئلة أو الإجابة عليها. هذه الجلسات قد انتهت. هاتان الجلستان فشلتا. إنها شجرة عائلة للأشياء التي أعمل عليها مع فلاتر. وقد قللت من العبء الإدراكي لعمل الوكلاء الذي كنت أعتمد فيه على نظام "أرسل وانسَ". وهنا، بينما أعمل على مهام "المخالب المفتوحة" الخاصة بي، يمكنك رؤية الأشياء التي تم دمجها وتلك التي اكتملت. ويمكنني طي ذلك الرف، ثم هذه هي الإصلاحات الاثنان أو الثلاثة التي أعمل عليها حالياً وهي في حالة خمول. لذا ، سأعود لقراءة الكود وأرى ما إذا كان هو ما أردته، وكل ذلك ينبثق من هذا الأصل.
-
لذا، أعتقد أنها طريقة مثيرة للاهتمام للنظر إلى >> وإذن، هل أنت تستفيد من هذا؟ >> مممم. أجل. لقد كنت أعمل عليه منذ فترة. لذا، أحتاج الآن فقط إلى مراجعة كل طلب من طلبات السحب هذه ومعرفة ما غيروه وما إذا كانوا سيقبلونه أم لا. إذن، يمكنني النقر على كل طلب من طلبات السحب هذه والذهاب مباشرة للاطلاع على الكود داخل تطبيق " غيت هاب" وإجراء المحادثة مع ذلك الشخص. إذن، ها أنا ذا، وهذا هو ماسح المخالب الذي يضيف شيئاً مثل: "حسناً، إنه جاهز ليطلع عليه المسؤول". هل لديه الآن إثبات ، ثم طلبت منه إعادة المراجعة، ونحن ندور في حلقات مفرغة. وها أنت ذا، قبل دقيقة حرفياً بينما كنا هنا لأن الوكيل يعمل في الخلفية: أضفت أنني كنت أقبل طلب السحب هذا بنشاط، والآن ننتظر المؤلف، ثم نقوم بمراجعة جديدة. لذا، فأنا، وطرف ثالث، وروبوتي المحلي، وروبوتي السحابي نتعاون جميعاً في طلب سحب واحد. إنه أمر رائع حقاً.
-
>> أجل. >> إنها طريقة مختلفة تماماً في العمل. >> لا أعتقد أن المشاريع التي أعمل عليها معقدة بما يكفي، ولست أتعاون مع أكثر من شخصين أو ثلاثة لأحتاج إلى هذا، لكن >> لذا، هنا لدي، لأن لدي 100 طلب سحب يجب إنجازها وبعضها جيد. لذا، أقوم بمراجعات تنافسية متعددة النماذج، ثم يمكنني الحصول على ثقة في التقييم وثقة في التوصية، ثم ما هو التحقق المادي المطلوب. >> حسناً. أتعلم، نحن ربما، لكن الأمر يمهد لما قلته للتو. لأن هذا ما لدي لك. أتعلم ، أنت قلت للتو "لدي مراجعة تنافسية لطلب السحب"، ثم يحصل على توصيات، ولدي هذا المعيار ويخبرني بكذا وكذا. >> صحيح، صحيح، صحيح. >> لذا، إليك سؤال لك. لماذا لا يكون ذلك جزءاً من تقديم طلب السحب؟ مثل لماذا >> أوه، لماذا لا >> لأن >> أجل، لذا فإن طلبات السحب تأتي طلباً. لذا ، لدينا هذه الأداة الكاشطة التي تتابعهم وتفحصهم وتقول لهم: "لا تعرضوا هذا عليّ إلا عندما يكون جاهزاً لمراجعة المشرف".
-
لذا، لا أرى هذه الطلبات في الدورة حتى تصبح جاهزة لي للنظر فيها. >> لكن، أعطهم للأشخاص الذين يقومون بطلبات السحب (PRs) حتى لا يرسلوا الطلب أصلاً إلا عندما يكونوا... >> إذن، أنت ستضع بوابة. المشكلة هي أن طلب السحب يملأ المكان بالفوضى. إذن، سيكون لديك بوابة صارمة لمنع... >> مجرد قيامهم بتشغيل فحوصاتهم الخاصة والقول: "أوه، هذا يبدو رائعاً. سأقوم بإرسال طلب سحب لهذا". ثم تعلم، ما ينتهي إليه الأمر هو أنهم يشغلون نموذجاً يقول لهم قيّم هذا بناءً على كذا، ثم يقول كلاماً فارغاً، وبعد ذلك تشغل نموذجك لتقييمه بناءً على ذلك، نعم. وهذا مجرد إهدار. مثل... >> لا، أنت محق تماماً لأنني هنا، لدي 43 طلب سحب اليوم. لكن، إذا نظرنا إلى تلك التي لديها دليل كافٍ وجاهزة لي للنظر فيها، إذا دخلت إلى التصنيفات ووضعت "جاهز لنظر المشرف" و " دليل كافٍ"... ثم عدنا، يمكن القول إن سبعة فقط من هذه الطلبات هي التي تستحق أن أقضي وقتي فيها .
-
>> أجل. >> إذن، أنت تقترح ألا تظهر لي أبداً، لا يجب أن أسمح لها بأن تكون طلبات سحب أصلاً حتى تصل إلى هذه المرحلة. >> أجل، في الواقع يجب أن أكون قادراً على وضع ذلك في مستودعي. >> صحيح. >> البوابة، ويجب أن تكون قادراً على اقتراح طلب سحب، ومراجعته... >> حسناً، سأطرح هذا على فريق GitHub لأن لديهم أيضاً مفهوم طلبات السحب المسودة ( Draft PRs) التي وجدتها دائماً مربكة، ولا توجد واجهة مستخدم لإدارتها. إذن، دعنا ننظر إلى بعض هذه الطلبات. أحدها هنا تم تمييزه كمسودة، وأنا أقول إنني لست مهتماً بطلب السحب المسود الخاص بك. هل تفهم ما أعنيه؟ لا تعرضه عليّ حتى إذا كان مجرد مسودة عمل، لأنه يسبب لي التوتر. ثم لدي هذا الشخص هنا، بارك الله فيه، الذي يغرق النظام ببوتاته، فهو مسؤول عن 20 من طلبات السحب الخاصة بي بمفرده. لذا، سأضطر إلى وضع حد أقصى لعدد طلبات السحب المفتوحة. لن أسمح لأي شخص بأن يكون لديه 20 طلب سحب مفتوح. >> أجل. >> لأنها جميعاً جيدة وهي إصلاحات صغيرة، لكنه يرسل لي الكثير من الرسائل غير المرغوب فيها (spam). إنه لا يتوقف.
-
>> بالمناسبة، لقد أسميتها "مخلب"(Claw)، لكنها الآن أصبحت "طيار آلي"(Autopilot). >> آه، حسناً، هناك بضعة أمور هنا. ما نقصده هو ما يسمى "كلاو سويبر"(Claw Sweeper)، وهو روبوت خاص بـ "أوبن كلاو" يعمل على الفرز ويقوم بتصنيف الأشياء تلقائياً. على سبيل المثال، طلب السحب هذا ورد للتو قبل دقائق قليلة. إنه يحتاج إلى إثبات. يقول " كلاو سويبر": "أعطني السجلات". "أعطني لقطات للشاشة". "أثبت لي أن الأمر حقيقي" . "لم يكتمل الأمر بعد". ثم أنت تشير إلى "أوتوبايلوت"(Autopilot)، المعروف سابقاً بـ "سكاوت"(Scout)، وهو نسخة "أوبن كلاو" المستضافة من مايكروسوفت في السحابة. وهذا هو الذي يحتوي على تحسيناتك لـ >> اشرح لي مقدار العمل الذي تقوم به على >> حسناً. أنا أعمل على "أوبن كلاو" لنظام ويندوز. أنا المطور لـ "أوبن كلاو" لنظام ويندوز مع كارين وباربرا وجميع الأشخاص الآخرين في فريقي. ونحن نعمل على تحسين أدائه على ويندوز وجعله يعمل بشكل رائع على ويندوز في بيئة معزولة. أما عمر شاهين فيعمل على "سكاوت" سابقاً، و "أوتوبايلوت " حالياً، وهو "أوبن كلاو" مستضاف لـ M365 في السحابة.
-
>> أجل. >> ونحن جميعاً كفريق نضيف بعض اللمسات والتحسينات لجعله أفضل وأفضل وأفضل. وإذا نقرت على اسمي الآن في Teams، يمكنك رؤية أن لدي موظفاً مباشراً يشبه رقاقة " دوريتوس" صغيرة، وهذا هو "أوتوبايلوت" الخاص بي، ويمكنك الدردشة معه ومعاملته كمساعد وطلب...أنت ستقوم باختراق رفيقي اللعين، أليس كذلك؟ >> أجل. >> لقد رأيت وجهك يضيء وكأنك ستدمر رفيقي. يمكنك ببساطة استخدامه لتحديد وقت للاجتماع بي. أو على ما يبدو ما ستفعله الآن، وهو اختراقه، وهذا هراء. >> يا إلهي، سننهي هذا ومارك يخترق "أوبن كلاو" الخاص بي مباشرة. لقد أصبح مهووساً الآن. لقد انشغل بالدردشة. هل تدردش معه الآن؟ هل أجابك؟ >> لا، أنا لا أفعل، أنا لا أفعل. >> حسناً، جيد. رائع. حسناً، نراك لاحقاً يا بيرني. >> وبالمناسبة، سأقوم أنا بذلك. سأكون وكيلي الخاص.
-
>> يا إلهي. حسناً، سيغادر مارك الآن ليخبرني بشيء لن تسمعه أنت، عزيزي المستمع. لكن بينما يفعل ذلك سنعود >> ربما نخبركم في مؤتمر Ignite >> سنخبركم في Ignite إذا حضرتم إلى Ignite. نعم، اذهبوا إلى حساباتنا على LinkedIn وسجلوا في Ignite. سيكون متاحاً عبر الإنترنت، أو يمكنكم زيارتنا شخصياً. أوه ، اضغطوا على الإعجاب والاشتراك، فأنتم الأفضل، وشكراً جزيلاً لقضاء الوقت معنا، كما هو الحال دائماً. وداعاً.
Summary
تناقش المقابلة أبحاث الذكاء الاصطناعي المتعلقة بتجاوز قيود وأمان النماذج المتطورة باستخدام تقنيات تجزئة المهام والاستعانة بنماذج أصغر غير متوافقة. تم ذكر مفاهيم مثل قيود أمن المعلومات، والنماذج المتطورة مثل Opus 4.8 و GPT-5.5 و Gemma، بالإضافة إلى قياس مفهوم "الارتقاء" في تنفيذ المهام. يهدف هذا البحث إلى إبراز المخاطر الأمنية القائمة ودفع المجتمع التقني نحو إيجاد حلول لمعالجتها والتخفيف من حدتها.