استبدل واجهة OpenAI Realtime بسطر واحد: hugging-voice، حزمة صوتية مفتوحة تشغّلها بنفسك
يغلّف مشروع hugging-voice من Hugging Face ومحركه speech-to-speech خط معالجة صوتي لحظي كامل، من كشف النشاط الصوتي إلى STT وLLM وTTS، خلف واجهة WebSocket متواف...
عمليات نماذج اللغة الكبيرة
غياب الحواجز الوقائية: من يملك سلطة الرفض في Kimi K3؟
عادت مشكلة الرفض المفرط، التي تجعل النماذج المغلقة ترفض حتى المهام الأمنية والطبية والقانونية المشروعة، إلى الواجهة من جديد. أعلنت Moonshot أن نموذجها مفتوح ...
هل يمكننا الوثوق بنموذج مفتوح بـ 2.8 تريليون معامل: Kimi K3 وموثوقية المعايير القياسية
أطلقت Moonshot نموذج Kimi K3، وهو أكبر نموذج مفتوح الأوزان في التاريخ بـ 2.8 تريليون معامل. النتائج مبهرة، لكن جدلاً حول الإفراط في التكيّف مع المعايير القيا...
نموذج بحجم 122B على بطاقة 24GB؟ شرّحنا ATSInfer الذي يقسّم llama.cpp على مستوى الموتّرات
بدلاً من إنزال طبقات أو خبراء كاملين، يوزّع ATSInfer الموتّرات فرادى بين الـ CPU والـ GPU. تُبلّغ الورقة عن تشغيل نماذج تتجاوز سعة الـ VRAM بكثير على بطاقة R...
فاتورة بقيمة 25 مليار وون تطرح سؤالا: لماذا تكلفة وكلاء الذكاء الاصطناعي غير مرئية؟
من حادثة فوترة بقيمة 25 مليار وون طالت مستخدما محليا إلى شبهات فوترة زائدة شملت 60 شركة، تشير أخبار تكلفة الذكاء الاصطناعي في الشهر الأخير إلى فجوة واحدة. في...
أين تختنق فعلياً وكالات الصوت الفورية: حاسبة ميزانية زمن الاستجابة وقياسات تشغيل GPU
بنينا أداة مفتوحة تُشخّص أي مرحلة من وكيل الصوت لديك هي نقطة الاختناق، دون أي SDK من مزود، وقسنا مكدسنا الفعلي (Qwen3-ASR وVoxCPM2 وQwen3-TTS) على وحدة RunPo...
خزانة بقيمة 400 ألف دولار على بطاقة رسومات بسعة 24 جيجابايت؟ أعدنا إنتاج “28 ضعفاً” الخاصة بـ ktransformers بأنفسنا
تدّعي ktransformers أنه يمكنك تشغيل نموذج MoE ضخم على بطاقة GPU واحدة بسعة 24 جيجابايت عبر نقل الخبراء (experts) إلى وحدة المعالجة المركزية. اختبرنا الادعاءا...
فاتورة الذكاء الاصطناعي تتسرّب عبر العمل المتكرر — كيف تخفضها هيكليًا بنماذج متخصّصة محلية
معظم تكلفة وكيل الذكاء الاصطناعي ليست في الحكم الذكي، بل في قرارات بسيطة متكرّرة آلاف المرات يوميًا. افصل هذه المهام إلى نماذج صغيرة متخصّصة تعمل على بنيتك ا...
Kimi K3: ماذا يعني فعلياً تشغيل نموذج مفتوح الأوزان بـ 2.8 تريليون معلمة
أطلقت Moonshot نموذج Kimi K3، أكبر نموذج مفتوح الأوزان في العالم حتى الآن. المثير ليس فقط تفوقه على أفضل النماذج المغلقة في اختبار برمجة الواجهات الأمامية، ب...
كيف يعمل vLLM، وكيف يُستخدم في بيئة الإنتاج
عند نشر نموذج لغوي كبير في خدمة حقيقية، تتحدد معظم التكلفة ليس باختيار النموذج، بل بمحرك الاستدلال الذي يشغّله. نستعرض كيف يقلل vLLM من هدر GPU عبر PagedAtte...
من 46% إلى 90% داخل الهاتف: ضبط النماذج اللغوية الصغيرة لوكلاء على الجهاز
عرض Cormac Brick من Google AI Edge حالة رفع فيها ضبطُ نموذج FunctionGemma بحجم 270 مليون معامل الدقةَ في مهمة وكيل محددة من 46% إلى 90%. الجوهر هو تشغيل نموذ...
295B على بطاقة واحدة: تشريح خدمة Hunyuan Hy3 بدقة 1-bit و4-bit
تُقلّص نسخ Hy3 من Tencent بصيغة GGUF بدقة 1-bit و4-bit نموذج MoE بحجم 295B من 598GB إلى 85.5GiB ليعمل على وحدة معالجة رسومات واحدة. لكن المقصود بـ«وحدة واحدة...
احتواء نموذج بحجم 27B داخل هاتف: تشريح ضغط Bonsai 27B بصيغتي 1-bit وternary
لا يُعد Bonsai 27B، الذي أصدرته PrismML، نموذجا تم تدريبه من جديد، بل هو نتيجة ضغط أوزان Qwen3.6-27B إلى صيغتي 1-bit وternary مع إبقاء البنية المعمارية كما ه...
نفّذ مرة واحدة واخدم بسرعة vLLM الأصلية: خلفية Transformers تُنهي البناء المزدوج
حتى الآن كان يجب بناء كل بنية نموذج مرتين: مرة في Transformers للتدريب والبحث، ومرة أخرى في vLLM للاستدلال الإنتاجي. خلفية Transformers بالسرعة الأصلية في vL...
أين تضع نموذجا مكمَّما؟ أربعة أنماط للنشر مع AWS و Unsloth
كثير من الفرق تعرف كيف تقلّص نموذجا إلى 4 بت باستخدام Unsloth. لكن لحظة اتخاذ القرار بوضع ذلك الملف على EC2، أو تغليفه في نقطة نهاية SageMaker، أو تشغيله كحج...
حذفنا 423 غيغابايت من GLM-5.2 دون تكميم: قياس الهدر في حقل الأس في BF16
ادعى أحدهم أنه قلّص GLM-5.2 من 1403 غيغابايت إلى 980 غيغابايت. لا تكميم ولا تشذيب، بل ضغط بلا خسارة مطابق للأصل بت ببت. كان من الصعب تصديق ذلك، لذا فتحنا 490...
ربط Claude Code بنماذج مفتوحة مستضافة ذاتياً: تشريح وسيط free-claude-code
وكلاء البرمجة مثل Claude Code وCodex مرتبطون بشكل وثيق بواجهة برمجة تطبيقات Anthropic. يضع free-claude-code وسيطاً متوافقاً مع Anthropic بين الطرفين، فتحتفظ ...
لم يكن هناك Q4 حقيقي تقريبا داخل Q4_K_M: تشريح دقيق لآلية التكميم في GGUF
هناك فرق حقيقي بين من يحمل ملف GGUF من Hugging Face ويضغط زر التشغيل فقط، ومن يعرف بالضبط أي المصفوفات (tensors) مخزنة وبكم بت داخل ذلك الملف. قمنا فعليا بتح...
من حرب الذكاء إلى حرب القيمة: الشركات التي تغادر واجهات النماذج المتقدمة واقتصاديات الترحيل
بدأت مايكروسوفت بتوجيه طلبات الذكاء الاصطناعي الجماعية من Excel وOutlook إلى نماذجها الخاصة، وأصبحت النماذج الصينية المفتوحة تعالج ما يقارب نصف استخدام الذكا...
أداء بمستوى Opus بثلث السعر: كيف يعيد Grok 4.5 رسم اقتصاديات النماذج
قدّمت SpaceXAI نموذج Grok 4.5 بأداء قريب جداً من Opus 4.8 وGPT-5.5، لكن بسعر أقل من النصف. حين تضيق الفجوة بين النماذج إلى نقطة أو نقطتين في الاختبارات المعي...
هل ماتت عملية الضبط الدقيق فعلا؟ استراتيجية البقاء لعام 2026 عبر إشارات موثّقة من شهر يونيو
كلما تحسّنت النماذج اللغوية الكبيرة ومهارات الوكلاء، ينتشر في الصناعة شعور بأن fine-tuning (الضبط الدقيق) لم يعد ضروريا. بل إن OpenAI بصدد إيقاف واجهة برمجة ...
لماذا يكون نموذج أكبر بثمانية أضعاف أرخص بخمسة أضعاف: البنية الحقيقية لتكلفة استدلال النماذج اللغوية الكبيرة
نحلل، باستخدام نموذج roofline، المفارقة التي تجعل DeepSeek V4 Flash بحجم 284B مليار معلمة يسعّر رموز الإخراج بأرخص بخمسة أضعاف من Qwen3.6 بحجم 35B. من قراءات...
GLM-5.2 بمعدل 2,626 tok/s على AMD MI355X: اقتصاديات الخدمة التي صنعها MXFP4 وSGLang
نتحقق من حالة خدمة GLM-5.2 743B MoE على عقدة واحدة من AMD MI355X بمعدل 2,626 tok/s لكل عقدة، بتكلفة أقل بأكثر من الضعف مقارنة بـ Blackwell، من زاوية تكميم MX...
ذكاء يعمل في المنزل: حاسوب الذكاء الاصطناعي الشخصي واقتصاديات التشغيل داخل المؤسسة
انطلاقًا من أدلة بناء حاسوب الذكاء الاصطناعي الشخصي التي شاركها tom_doerr والتي تصل إلى 384GB من ذاكرة VRAM، نحسب كيف تحدد ذاكرة VRAM النماذج التي يمكن تشغيل...
ابنِ بتكلفة عالية وشغّل بتكلفة منخفضة: كيف تُخفَّض تكلفة المهارات كل ليلة
معظم مهام الوكلاء لا تحتاج إلى نموذج طليعي. حين تُبنى المهارة مرة واحدة بنموذج مكلف ثم يُنقل التنسيق إلى الكود، يمكن تشغيل الجودة نفسها بنموذج أرخص. يقيس Pax...
هل يؤدي فصل Prefill/Decode في vLLM على معالجَي B200 إلى تسريع حقيقي؟
قسنا فعلياً عدد الرموز المُولّدة في الثانية عبر التوازي على مستوى المُوتِّرات، والتوازي على مستوى البيانات، وفصل Prefill/Decode (1P1D) لنموذجَي Qwen3.6-27B-N...
Qwen3.6-27B بصيغة NVFP4: اقتصاد الخدمة على GPU واحدة من Blackwell
أعادت NVIDIA تكميم Qwen3.6-27B إلى NVFP4 ليُخدَم على GPU واحدة من Blackwell عبر vLLM مباشرةً. نفكّك كيف تُوائم الدقة المختلطة (MLP بصيغة NVFP4 والانتباه وذاك...
كيف توجّه Claude Fable 5: خمسة مبادئ من دليل Anthropic الرسمي
نحلل دليل التوجيه الرسمي الذي أصدرته Anthropic لنموذج Claude Fable 5. يطرح الدليل خمسة مبادئ: التخلص من التعليمات التي كُتبت للنماذج القديمة، ومراجعة التقدم ...
كيف تتعلم البنية الداخلية لنماذج LLM بشكل منهجي: من التوكنة إلى تحسين الاستدلال
إذا كنت تشغّل LLM في الإنتاج ولا تستطيع أن تشرح لماذا يستهلك KV Cache هذا القدر من الذاكرة، أو ما الذي يوفره GQA بالضبط، فإن التحسين يصبح مجرد تخمين. مستودع ...
التوجيه المزدوج بميزانية الرموز — تقليص وقت GPU في استدلال vLLM بنسبة 31–42% عبر الجدولة ثنائية المجمّعات
الطلبات القصيرة التي تنتظر خلف الطلبات الطويلة في قائمة انتظار واحدة تُهدر وقت GPU في صمت — وهذا ما يُعرف بـ HoL Blocking. يقترح أسلوب Dual-Pool Token-Budget...
عام اللحاق: حين تقترب النماذج مفتوحة الأوزان من الحدود الأمامية وتصبح اقتصاديات self-hosting هي معركة الحسم
في منتصف عام 2026، باتت النماذج مفتوحة الأوزان على بُعد ثلاثة إلى ستة أشهر من الحدود الأمامية، والفجوة لا تتسع. القرار الحقيقي الآن لم يعد عن أداء النموذج، ب...
تشغيل GLM-5.2 469B بتقنية NVFP4 على عقدة واحدة: تحليل معمّق لوصفة التقديم عبر vLLM
نقطة التفتيش GLM-5.2-NVFP4 التي أصدرتها NVIDIA تتيح تقديم نموذج MoE بحجم 469B على عقدة Blackwell واحدة (8× RTX PRO 6000) باستخدام vLLM. نحلّل بنية التكميم ال...
نظرة داخل slime، إطار التعلّم المعزّز مفتوح المصدر الذي بنى GLM-5.2
تم فتح المصدر بالكامل لإطار البنية التحتية للتعلّم المعزّز غير المتزامن slime، وهو الذي قاد مرحلة التدريب اللاحق للنموذج مفتوح الأوزان GLM-5.2 من Z.ai بسياق ...
استخدام الرموز ينفجر والإنفاق على الذكاء الاصطناعي يتراجع للنصف: استراتيجية الإعدادات الافتراضية الأفضل لدى Coinbase
وصفة الرئيس التنفيذي لـ Coinbase بريان أرمسترونغ للتحكم في كلفة الذكاء الاصطناعي لم تكن حدود الاستخدام ولا تنبيهات الإنفاق، بل إعدادات افتراضية أفضل وتوجيه و...
Ornith-1.0: نموذج برمجة مفتوح المصدر يبني سقالات التعلم المعزز بنفسه
Ornith-1.0 الصادر عن DeepReinforce في 25 يونيو 2026 هو عائلة نماذج برمجة مفتوحة المصدر تعتمد آلية التسقيل الذاتي (self-scaffolding)، حيث يكتب النموذج بنفسه س...
NVIDIA GLM-5.2-NVFP4: خدمة نموذج MoE رائد بحجم 753B بدقة 4 بت
كمّمت NVIDIA نموذج الاستدلال GLM-5.2 من ZAI (MoE بحجم 753B) إلى NVFP4 (4 بت) ونشرته على Hugging Face. بدلاً من سحق كل الأوزان إلى 4 بت، تُكمَّم فقط المعاملات...
إطلاق مجموعة بيانات NVIDIA Nemotron متعددة اللغات بستة ملايين مثال – تعزيز منظومة الذكاء الاصطناعي مفتوح المصدر
تُطلق NVIDIA مجموعة بيانات استدلال متعددة اللغات تضم ستة ملايين مثال، وتوفر بيانات تدريب عالية الجودة تغطي خمس لغات: الفرنسية والإسبانية والألمانية والإيطالي...
dots.ocr: تحليل شامل لنموذج تحليل المستندات متعدد اللغات بـ 1.7B معامل وأداء SOTA
استعراض النموذج البصري اللغوي dots.ocr الذي أصدرته RedNote، وكيفية تنفيذ تحليل تخطيط المستندات متعدد اللغات والتعرف الضوئي على الحروف في نموذج واحد.