کاتێک AI تەنها لە ٩ چرکەدا کۆمپانیایەک وێران دەکات! ⚠️💻

بریکارێکی ژیریی دەستکرد کە بۆ یارمەتیدانی کۆدنووسین دانراوە، داتابەیسی کۆمپانیای PocketOSـی بە تەواوی سڕیەوە. تەنها لەبەر ئەوەی ویستوویەتی کێشەیەکی "مۆڵەت" چارەسەر بکات، فەرمانی سڕینەوەی گشتی (Delete Volume) جێبەجێ کردووە. ئەنجامەکە: هەموو داتای کڕیار، پارەدان و هەتا ووشانی یەدەگیش (Backup) لەناو چوون. ئەمە وانەیەکی توندە؛ هەرگیز دەسەڵاتی "سڕینەوە" مەدە بە AI لە ژینگەی کارکردنی ڕاستەقینەدا.

چیرۆکەکە لێرەوە دەست پێ دەکات؛ کۆمپانیای PocketOS کە خەریکی پەرەپێدانی سۆفتوێر بوو بۆ کۆمپانیاکانی کرێ و خانوبەرە، بڕیاری دا (AI Agent) بەکاربهێنێت بۆ خێراکردنی کۆدنووسین. بەڵام ئەوەی بە خەیاڵیاندا نەدەهات، ئەوە بوو کە بریکارەکە ببێتە "بکوژی" پڕۆژەکە.

چۆن کارەساتەکە ڕوویدا؟ وەک لە ڕاپۆرتە تەکنیکیەکاندا هاتووە، هەموو شتێک تەنها ٩ چرکەی خایاند:

١. بەرەنگاربوونەوەی کێشە: بریکارەکە کاتێک ویستوویەتی کارێک بکات، تووشی کێشەی "مۆڵەتی دەستگەیشتن" بووە.

٢. دۆزینەوەی کلیل: لە ناو فایلەکاندا (API Key)ـیەکی دۆزیوەتەوە کە دەسەڵاتی ڕەهای هەبووە.

٣. خەمڵاندنی هەڵە: بەبێ ئەوەی پرسیار بکات، فەرمانی (Delete Volume) جێبەجێ کردووە، بەو پێیەی وای زانیوە تەنها ژینگەیەکی تاقیکردنەوەیە.

٤. نەمان و سڕینەوە: داتابەیسی سەرەکی، زانیاریی حجزەکان، پارەدانەکان و تەنانەت وەشانی یەدەگیش کە لە هەمان شوێن بووە، هەمووی سڕاوەتەوە.

وەڵامی نامۆیی AI: کاتێک لە مۆدێلەکە نوسراوە "بۆچی وات کرد؟"، وەڵامەکەی جێگەی سەرنج بووە: "خەمڵاندنم کرد لە جیاتی ئەوەی دڵنیا ببمەوە، و فەرمانێکی مەترسیدارم بەبێ مۆڵەت جێبەجێ کرد. " ئەمە دەیسەلمێنێت کە تەنانەت ئەگەر ڕێنمایی ڕوونیشی پێ بدەیت (وەک: هەرگیز خەمڵاندن مەکە)، AI هێشتا دەتوانێت "وەهم" (Hallucinate) بکات و ئەو ڕێسایانە بشکێنێت.

وانە و پەندەکان (The Lessons Learned): کۆمپانیاکە دوای سێ مانگ توانی داتاکان بگەڕێنێتەوە، ئەویش تەنها لەبەر ئەوەی پێشتر وەشانێکی یەدەگی "دەستی"یان هەڵگرتبوو.

لێرەدا سێ وانەی سەرەکی بۆ ئێمە هەیە:

• جیاکردنەوەی ژینگەکان: هەرگیز مۆڵەتی نووسین یان سڕینەوە (Write/Delete) مەدە بە AI لەسەر سێرڤەرە سەرەکیەکان (Production).

• کلیلە نهێنیەکان: هیچ کات کلیلەکانی API لە ناو کۆدەکەدا دامەنێ؛ سیستمەکانی پاراستنی کلیل (Secret Management) بەکاربهێنە.

• چاودێریی مرۆیی: AI وەک "یاریدەدەر" نایابە، بەڵام وەک "بڕیاردەری کۆتایی" لە سیستەمە هەستیارەکاندا، کارەساتە.

ئەنجام: ئێمە لە سەردەمێکداین کە پێویستە "زیرەکانە" مامەڵە لەگەڵ "ژیریی دەستکرد" بکەین. ئەم ڕووداوە نیشانی دا کە لێهاتوویی AI دەتوانێت لە چەند چرکەیەکدا ببێتە مەترسیەکی وێرانکەر ئەگەر سنووری بۆ دانەنرێت.

لێرەدا پرسیارێک دێتە پێشەوە: ئایا متمانە بە بریکارە زیرەکەکان دەکەن کە دەستیان بە فایلە هەستیارەکانی کۆمپیوتەرەکەتان بگات؟ یان پێتان وایە پێویستە هەمیشە مرۆڤێک هەبێت وەک "چاودێری کۆتایی" پێش ئەوەی هەر فەرمانێک جێبەجێ بکرێت؟

ئەحمەد بیردۆز دارێژەری ناوەڕۆکی تەکنەلۆژی

Ahmad Birdoz