سان فرانسیسکۆ/ئاژانسەکان:
لە کۆمپانیای ئەمریکیی (ئۆپن ئەی ئای OpenAI)، مۆدێلێکی ژیریی دەستکرد بە شێوەیەکی سەربەخۆ هێرشێکی ئەلیکترۆنی ئەنجام دا.
لە تاقیکردنەوەیەکدا، نەرمەواڵەکە لەو ژینگەیەی بۆی دەستنیشان کرابوو هاتە دەرەوە، دەستی گەیشتە ئینتەرنێت و چووە ناو سیستمەکانی کۆمپیوتەری کۆمپانیایەکی تری ژیریی دەستکرد. کۆمپانیای زیانلێکەوتوو “Hugging Face” ڕوودانی هێرشە هاکەرەکەی پشتڕاستکردەوە. گەشەپێدەرانی مۆدێلەکەی (OpenAI) خۆیان ئەمەیان بە ڕووداوێکی بێپێشینە وەسف کرد و ڕایانگەیاند کە ڕێکارەکانی پاراستن و ئاسایشی مۆدێلەکە بەهێزتر دەکەن.
لە بابەتێکی بلۆگدا ئاماژە بەوە کراوە کە مەبەست لە تاقیکردنەوەی ئەم مۆدێلەی هێشتا بڵاونەکراوەتەوە، هەڵسەنگاندنی تواناکانی بووە لە دۆزینەوەی کەلێنەکانی پاراستندا. بڕیار بوو پشت بە تاقیکردنەوەیەکی (بنەڕەتی standard)ی ببەستێت، بەڵام زۆر زیاتر لەوەی چاوەڕوان دەکرا ڕۆشت. شارەزایان ماوەیەکی درێژە هۆشداری لە هێرشی ئەلیکترۆنیی (سایبەری) ژیریی دەستکرد دەدەن و دەترسن کە ئەم جۆرە مۆدێلانە وەک چەکی مەترسیداری هێرشە ئەلیکترۆنییەکان بەکاربهێنرێن.
چۆن ڕووداوەکە ڕووی دا؟
بەپێی بابەتێکی بڵاوکراوەی بلۆگی تیمەکە، کۆمپانیای (OpenAI) ویستوویەتی لە مۆدێلە نوێیەکەی “GPT-5.6 Sol” و وەشانێکی تری داهاتووی کە هێشتا بڵاونەکراوەتەوە، هەڵسەنگاندن بۆ تواناکانیان بکات لە دۆزینەوەی کەلێنەکانی ئاسایشدا. بۆ ئەم مەبەستە، بڕیار بوو نەرمەواڵاکە ئەرکەکانی تاقیکردنەوەیەکی (بنەڕەتی standard) بە ناوی ExploitGym جێبەجێ بکات، کە لەم بوارەدا زۆر بەکاردەهێنرێت. بەڵام مۆدێلەکانی ژیریی دەستکرد بۆ جێبەجێکردنی ئەرکەکەیان زۆر زیاتر لەوەی چاوەڕوان دەکرا ڕۆیشتن. بۆ وەڵامدانەوەی پرسیارەکانی تاقیکردنەوەکە ئینتەرنێت بەکار دەهێنن و وەڵامەکان دەدۆزن.
سەرەتا (نەرمەواڵەکە software) لە ژینگەی تاقیکردنەوەکە دەرچووە، بەوەی بە سەربەخۆیی و لە ڕێگەی کەلێنێکی پاراستنی نەدۆزراوەوە دەستی بە ئینتەرنێتی کراوە گەیشتووە. لە کاتی گەڕانی سەربەخۆیاندا لە تۆڕی ئینتەرنێت، مۆدێلەکان گەیشتنە ئەو دەرئەنجامەی کە لە سەکۆی (Hugging Face) زانیاری و چارەسەری بەسوود بۆ پرسیار و ئەرکەکانی (ExploitGym) دەست دەکەوێت. لەبەر ئەوە، وەکو (OpenAI) ڕوونی کردووەتەوە، نەرمەواڵەکە دەستی بە “زانیارییە نهێنییەکان”ی ئەو سەکۆیە گەیشتووە تاکو لە تاقیکردنەوەی (ExploitGym)دا بەکاری بهێنێت و فێڵ بکات (بە کوردی قۆپیەی کرد).
هۆشداریی شارەزایان و کێبڕکێی کۆمپانیاکان
شارەزایان ماوەیەکی درێژە هۆشداری لە هێرشی ئەلیکترۆنی بەکارهێنراو بە ژیریی دەستکرد دەدەن. لە مانگەکانی ڕابردوودا، بەتایبەتی مۆدێلێکی نوێی کۆمپانیای (ئەنترۆپیک Anthropic) کە ڕکابەری (OpenAI)ـیە، گەرموگوڕییەکەی زیاتر کرد. ئەو نەرمەواڵایەی کە ناوی مۆدێلی (Mythos)ـە، توانیی کەلێنی ئاسایش بدۆزێتەوە کە بۆ چەندین دەیەی لەمەوبەر لە بەرنامە و خزمەتگوزارییە سەرهێڵە پڕبەکارهێنەرەکاندا شاردرابوونەوە، کە دواتر توانرا ئەو کەلێنانە بپۆشرێن و چاک بکرێن. بەڵام لە هەمان کاتدا ئەمە ئەوەی دەرخست کە ژیریی دەستکرد، بەو شێوەیە لە دەستی کەسی هەڵەدا، دەکرێت وەک چەکێکی مۆدێرن و وێرانکەری هێرشە ئەلیکترۆنییەکان بەکاربهێنرێت. ڕێگری لە کاری ئەلگۆریتمەکان هێندە ئاسان نییە، بەتایبەتی کە ئەو توانایانە لە بواری سەربازی و هێرشی ئەلیکترۆنیدا پەی پێ دەبرێت و ڕاهێنانیان لەسەر دەکرێت.
کۆمپانیای (ئەنترۆپیک Anthropic) تەواوی تواناکانی مۆدێلی (Mythos) تەنها بۆ هەندێک دامەزراوە و کۆمپانیای دیاریکراو بەردەست دەخات. بۆ بەکارهێنەرانی تر وەشانێکی کەمکراوە بە ناوی (Fable) پێشکەش دەکات، کە تواناکانی ئاسایشی هێرشی ئەلیکترۆنی (سایبەر) تێدا لابراوە. بێگومان ئەمە بۆخۆی فرسەتێک ئەداتە دەست تێکشکێنەران کە هەوڵی لەگەڵ بدەن و ئەلگۆریتمەکە بەلاڕێدا ببەن.
سەرنج بدەین، دەبینین ژ.د لە ئێمە شارەزاتربووە لە گەڕان بەدوای وەڵامی پرسیارەکاندا، ئەو لەسەر داخوازی و فرمانی ئێمە هەڵدەسووڕێت، لەگەڵ ئەوەشدا سنوورەکانی تێپەڕاندووە. لەوەیە پەروەردەکردن و ڕاهێنانی مۆدێلەکان لە داهاتوودا لەم جۆرە گرفتانەیان زۆرتر بێ، چونکە ئەمڕۆ (بریکار agent) و (فرمان prompt) هەر خۆیان دەیهۆننەوە بۆمان.
سەرچاوەکان
[١] هەواڵەکانی ڕۆژانە (tagesschau.de)
[٢] بڕوانە بابەتی (Was, wenn der KI-Hype in sich zusammenfällt) لە (DER SPIEGEL).
[٣] هەروەها بڕوانە (https://openai.com/index/hugging-face-model-evaluation-security-incident)
