فاتورة الذكاء الاصطناعي تتسرّب عبر العمل المتكرر — كيف تخفضها هيكليًا بنماذج متخصّصة محلية
الخلاصة أولًا
جزء كبير مما تنفقه على الذكاء الاصطناعي لا يذهب لأن النموذج ذكي. بل يذهب إلى القرار نفسه المكرَّر آلاف أو عشرات آلاف المرات يوميًا: “هل هذا الطلب آمن؟”، “إلى أي فئة ينتمي هذا المستند؟”، “هل نبرة هذه الجملة مناسبة؟” حين تستدعي نموذجًا خارجيًا من الطبقة العليا لهذا العمل المتكرر في كل مرة، تتضخّم التكلفة مع الحجم وتغادر البيانات الحسّاسة جدرانك عند كل استدعاء.
اقتراح ThakiCloud بسيط: افصل هذا العمل المتكرر وحده إلى نماذج صغيرة متخصّصة تعمل على بنيتك الخاصة (محليًا)، واحتفظ بالنموذج الأعلى المكلف للمهام القليلة التي تتطلب حكمًا فعليًا. تحقّقنا أن ذلك يعمل فعلًا — بالقياس لا بالتنبؤ — ونشرنا كل شيء. يصوغ هذا المقال قصة التكلفة تلك بلغة صنّاع القرار.
لماذا يهم هذا الآن
بمجرد إدخال الذكاء الاصطناعي التوليدي إلى التشغيل الفعلي، تنمو ثلاثة أمور معًا. التكلفة ترتفع خطيًا مع حجم الاستدعاءات. تعرّض البيانات يحدث في كل استدعاء لواجهة خارجية. والارتهان لمزوّد نموذج خارجي بعينه يزداد عمقًا. الثلاثة مخاطر يريد التنفيذيون السيطرة عليها.
وهنا الجوهر. عند تحليل ما يفعله الذكاء الاصطناعي لديك فعلًا، معظمه حُكم ضيّق ومتكرر، والحكم الإبداعي الحقيقي هو الأقلية. ومع ذلك يُسنَد كلاهما اليوم إلى النموذج الأعلى نفسه دون تمييز — كإسناد فرز مستندات بسيط إلى أعلى خبير أجرًا لديك.
نهجنا: العمل المتكرر إلى نماذج متخصّصة، محليًا
للطريقة ثلاث خطوات. أولًا، صمّم سير العمل بنموذج كبير. ثانيًا، ثبّت ما يمكن اختزاله إلى قواعد كشيفرة. ثالثًا، خذ فقط القرارات المتكررة الضيقة التي تحتاج فعلًا إلى نموذج لغوي ودرّب نموذجًا صغيرًا متخصّصًا (أقل من مليار معامل، 4 بت) لها. عندها يعمل ذلك العمل على وحدة معالجة رسومية محلية شائعة واحدة، ويُنفَق النموذج الأعلى على ما يهم فعلًا فقط.
تحوّل منصّة ThakiCloud هذا السير بالضبط إلى منتج. فهي تُدرّب النموذج الصغير المتخصّص كخدمة مُدارة (دون أن تضطر للتعامل مع بنية وحدات المعالجة الرسومية) وتخدّمه على عتادك المحلي الخاص. التجربة في هذا المقال دليل على أن النمط يعمل؛ والمنصّة هي ما يجعله قابلًا للتكرار والتشغيل.
ما الذي قِسناه
تجنّبًا للمبالغة، قِسنا ونشرنا كل رقم. البيئة بطاقة واحدة، دون أي استدعاء لواجهة خارجية في أي مرحلة من التدريب أو الاستدلال — تبقى السلسلة كاملة داخل بنيتك الخاصة. هكذا تبدو سيادة البيانات عمليًا.
التكلفة. محليًا، عالج النموذج الصغير المتخصّص 1000 استدعاء بتكلفة أقل بنحو 3.6 مرة من واجهة خارجية من الطبقة العليا. هذا الرقم بتيار مفرد؛ والمعالجة على دفعات كما في التشغيل الحقيقي توسّع الفارق أكثر.
الجودة. في القرارات المتكررة الضيقة قفز النموذج الصغير. ارتفع تصنيف النبرة الكورية من 38.6% قبل التدريب إلى 99.1% بعده؛ وانتقل تصنيف الأخبار من شبه العشوائي إلى أكثر من 80%. وعند إعادة الفحص على جمل حقيقية لم تُرَ في التدريب، بقي متوافقًا مع الإجابة الصحيحة بنحو 88% في قرارات الأمان و89% في التصنيف.
الاقتصاد. يُنتَج كل نموذج متخصّص كمُرفق صغير بنحو 5 ميغابايت لكل مهمة. تكاد جودته تطابق إعادة تدريب النموذج بالكامل من الصفر (99.1% مقابل 96.9%) بنحو جزء من 300 من الحجم، ويمكنك تبديل عدة مهام على نموذج أساس واحد مشترك. بل تولّى نموذج صغير واحد أربع مهام متكررة في آن. تشغيليًا، يُترجَم هذا مباشرة إلى “عمل أكثر بعتاد أقل”.
الحدود، بصدق
نقطة نذكرها بوضوح: في مهمة عامة كان النموذج الأعلى يتقنها أصلًا، أدى التدريب المتخصّص المتسرّع إلى إضعافها. بمعنى آخر، هذا النهج ليس شيئًا تطبّقه على أي مهمة، بل على مهام متكررة وضيقة تُنتقى بعناية. ومعرفة أين تطبّقه وأين لا، هي بالضبط حيث تثبت المنصّة والخبرة قيمتهما. ننشر النتائج الجيدة والسيئة معًا.
لصانع القرار، باختصار
أولًا، جزء كبير من تكلفة تشغيل الذكاء الاصطناعي لديك يتسرّب إلى العمل المتكرر، وهذا الجزء يمكن خفضه هيكليًا. ثانيًا، طريقة الخفض هي فصل ذلك العمل المتكرر إلى نماذج صغيرة متخصّصة تعمل محليًا، ما يؤمّن توفير التكلفة وسيادة البيانات معًا. ثالثًا، تقدّم منصّة ThakiCloud هذا كخدمة مُدارة، فتتبنّاه دون أن تتحمّل شخصيًا تعقيد بنية وحدات المعالجة الرسومية وتدريب النماذج.
الشيفرة الكاملة للتجربة والنتائج المقيسة متاحة وقابلة لإعادة الإنتاج: github.com/sylvanus4/tiny-skill-distill. ويسعدنا أن نقيّم معك أي أحمال عمل الذكاء الاصطناعي لديك يمكن نقلها إلى نماذج متخصّصة وكم سيخفض ذلك تكلفتك.