AURA: منصة وكيلة تربط نماذج اللغة الكبيرة بسير العمل الإنتاجي لمهندسي موثوقية النظام
AURA بواسطة Mezmo هي منصة جاهزة للإنتاج تربط نماذج اللغة الكبيرة مع سير عمل هندسة موثوقية الموقع، مما يحول مخرجات النموذج إلى إجراءات تشغيلية محكومة. تعمل الأداة على تشغيل الوكلاء لتشخيص الحوادث، وتحليل السجلات، واقتراح الإصلاحات مع فرض بوابات المصادقة والموافقة. تتضمن روابط القياس عن بعد، وتنظيم متعدد النماذج، وتثبيت المتجهات للوثائق الخاصة. يحصل مهندسو المنصة وفرق SRE على وسيلة لأتمتة الأعمال التشغيلية الروتينية مع الحفاظ على إشراف المشغل ونشاط قابل للتتبع.
ما المهام التي يمكنك استخدامها فعلاً من أجلها؟
AURA تعمل كحزام وكيل يقوم بتشغيل سير العمل المعتمد على النموذج ضد أنظمة المراقبة الحية، وليس فقط الاختبارات الحوارية. تشمل المنصة خوادم API، وإدارة الحالة، والبث بحيث يمكن للوكلاء أداء مهام SRE ملموسة مثل تشخيص الحوادث، وتحليل السجلات، والإصلاح المحمي. أمثلة على الأدوات القابلة للاستدعاء تشمل مصادر المراقبة ومنصات التنبيه المدمجة في خط الأنابيب، مما يسمح للوكلاء بإظهار النتائج القابلة للتنفيذ من القياسات.
ما مدى موثوقية مخرجات الوكلاء للعمل التشغيلي؟
AURA تضع التركيز على السلامة التشغيلية من خلال حواجز اختبار الإنتاج وأبواب الموافقة البشرية القابلة للتكوين للإجراءات الحساسة. يمكن للنظام إيقاف مخرجات الأدوات الكبيرة على القرص لتجنب فيضان نافذة السياق ويستخدم البحث القائم على المتجهات مع مخازن مثل Qdrant أو قاعدة معرفة AWS Bedrock لربط الردود بالوثائق الخاصة. هذه الضوابط تقلل من المخاطر المتعلقة بالتغييرات الآلية غير الموثوقة التي تصل إلى الإنتاج دون موافقة بشرية.
ما المدخلات والاتصالات التي يقبلها وأين الحدود؟
تستخدم المنصة بروتوكول سياق النموذج لاكتشاف الأدوات الديناميكية ويمكنها استدعاء أي خادم متوافق مع MCP عبر HTTP أو SSE أو STDIO. تدعم مخرجات الأدوات الكبيرة من خلال الحفاظ على النتائج والسماح للوكلاء بجلب الشرائح المطلوبة فقط. يقبل المنظم واجهات النموذج عبر السحابة والبيئات المحلية، بما في ذلك نقاط نهاية OpenAI، وAnthropic، وAWS Bedrock، ونقاط نهاية نماذج Google، والنماذج المحلية عبر Ollama، مما يمكّن سير العمل المختلط للنماذج.
هل يناسب أنماط سير العمل SRE النموذجية وأنماط النشر؟
AURA هو تطبيق مبني على Rust يتم نشره كبيئة محلية مدفوعة بـ CLI للتطوير ومكون خادم للإنتاج؛ كما أنه يدعم الإعدادات المحلية أو المعزولة عن الشبكة. تستخدم التكوينات TOML لتعريف العمال المتخصصين وتوجيه النماذج، وتكامل OpenTelemetry الأصلي يصدر الآثار لمراقبة أداء الوكلاء. التوزيع مفتوح المصدر يجعل المجموعة قابلة للتوسيع للفرق التي ترغب في تشغيل النظام الكامل داخليًا.
AURA هو خيار موجه للإنتاج لفرق الهندسة ذات القدرة على المنصة
AURA يناسب فرق SRE والهندسة المنصة التي تحتاج إلى أتمتة وكيلة خاضعة للرقابة ومستعدة لتشغيل مجموعة تنسيق. لأن المشروع مصمم للعمل على بنية تحتية للعميل ويتطلب نشر الخادم بالإضافة إلى تكوين توجيه النموذج، يجب على الفرق التي لا تملك موارد هندسة المنصة أن تتوقع عبء إعداد وصيانة غير تافه. بالنسبة للفرق التي يمكنها استضافة وتكوين المجموعة، تقدم AURA مسارًا قابلًا للتعقب للمهام التشغيلية الآلية تحت إشراف بشري.
