اخبار انحصاری: جزئیات حمله دانش آموزان پیاده‌کار تیک تاک به مدل‌های خودشان، چه تاثیری دارد؟
چکیده:
در تاریخ 19 اکتبر، حمله یک دانش‌آموز تابستانی به مدل آموزشی تجاری داخلی شرکت ByteDance باعث جلب توجه گسترده‌ای شد. طبق گزارش‌های چند نفر از افراد آگاه، یک تیم فنی در شرکت ByteDance در ماه ژوئن امسال به یک حمله تکنولوژی داخلی برخورد کرد، یک دانش‌آموز تابستانی به خاطر نارضایتی از تخصیص منابع تیم، با استفاده از کدهای حمله‌ای کار تمرین مدل‌های تیم را خراب کرد.
به گزارش، شخصیت اصلی درگیر در این حادثه یک دانشجوی کارآموز به نام "تیان" بود که از آسیب‌پذیری‌های پلتفرم Huggingface (HF) بهره برد. او با نوشتن کدهای تخریبی در مدل‌های مشترک شرکت، باعث شد عملکرد آموزش مدل‌ها نامنظم شود و نتواند نتایج آموزش مورد انتظار را تولید کند.
یکی از سابق کارکنان بایت به عنوان تکنسین اظهار کرد: "متمایز شدن کارکنان کارآزمون از کارکنان رسمی، فرصت برای رخ دادن این واقعه را افزایش داد." او نگران تاثیرات منفی این واقعه بوده و اظهار کرد: "قطعاً بعد از این واقعه، مجوزهای کارآزمایشی به شدت محدود خواهد شد."
پس از افشای این خبر، این دانشجوی کارآموز مورد اتهام تلاش کرد در پلتفرم‌های اجتماعی شایعه‌ها را رد کند و مسئولیت را به دیگران واگذار کند، اما به سرعت توسط یک نفر نزدیک به نهاد ByteDance رد شد.
به گفتگوی افراد آگاه در گیت‌هاب، "در مدت دو ماه شما (به اشاره به آقای تاناکا) حمله مخربی به کدهای خوشه‌ای انجام داده‌اید، که بصورت وسیع برای تقریبا 30 نفر از کارمندان به وقوع پیوسته و باعث تلفات چشمگیری شده‌اید، که به همکاران شما در طول یک فصل کاری دیگر بیهوده کرده‌اید. همه سوابق و بررسی‌ها این موضوع را به عنوان یک واقعیت غیر قابل انکار تأیید کرده‌اند!"
این شخص همچنین یک فایل صوتی را از یک مصاحبه با کارشناسان با نام تیان که یک دانشجوی کارآموز است، به اشتراک گذاشت. در این فایل صوتی، مکالمه اصلی توصیف می‌شود که نشان می‌دهد چگونه اقدام حمله‌آمیز تیان انجام شده است: ابتدا کدی که تیان وارد کرده بود برای تحت تأثیر قرار دادن ارتباطات و اتلاف اعداد تصادفی بود. «اوّلش این کار به منظور دیباگ کردن بود، نه برای تهدید، این کار تاثیری بر برخی از عمل‌کردهای برنامه داشت. ولی بعد از آن، به یک سری فایل ها رسید. اون فایل های آپلود شده، کد هم آپدیت شد و کد به یک کد حمله‌آمیز تبدیل شد.». تقریباً کارایی آن این است که کدها را تغییر دهد و باعث بروز اثرات جانبی شود.
در پاسخی که به نظر می‌رسید آقای تیان خودش است، اعتراف کرد که با به‌روزرسانی کد، کدها شامل ویژگی‌های حمله‌ای شدند. او همچنین به کارشناسان پرسش‌گر، به صراحت اظهار نمود: "دلیل آن این بود که برخی دلایل منجر به بسیاری از ناخشنودی‌ها شد."
به گفته شایعات، خسارت احتمالاً بیش از یک میلیون دلار خواهد بود، اما افراد داخلی اعلام کرده‌اند که واقعیت خسارت همچنان به اندازه‌ای که در شایعات ذکر شده تلف نمی‌شود.
بنا به اطلاعات بدست آمده، این واقعه در پایان ژوئن امسال رخ داده است، در حال حاضر کمپانی ByteDance به شکل اخراجی برای دانشجویان کارآموز به نام تین، اقدام کرده است و این امر را به اتحادیه صنعت مربوطه و دانشکده‌ای که این دانشجو کارآموز بوده تبلیغ نموده است.
موارد آگاهی مربوطه اما اعلام کردند که علاوه بر برکناری توسط Byte، تنها تیان مورد هیچ پنالتی دیگری قرار نگرفته است.
به گفته‌های مختلف، دانشجوی دکتری به نام تیان، که به عنوان یک دانشجوی فوق لیسانس در دانشگاه داخلی فعالیت می‌کند، از سپتامبر سال 2021 به عنوان یک دانشجوی کارآموز در شرکت بایت ورزش شروع به کار کرده است. تیم او همراه با تیم وانگ لی-وی از دانشگاه بیجینگ، در ماه آوریل امسال تحقیقی در زمینه VAR (رمزهای بینایی با نمونه) را معرفی کردند که در زمینه کیفیت تولید تصویر، سرعت استنتاج، کارایی داده و قابلیت گسترش بهتر از DiT (تبدیل توجه دیظری) عمل کرد. علاوه بتاین، سرعت استنتاج مدل VAR حدود 20 برابر سریعتر از مدل‌های سنتی خودبازگشتی است.
تا کنون، کمپانی ByteDance هنوز به این موضوع پاسخ عمومی نداده است.
توجه: بخشی از تصاویر این متن از اینترنت گرفته شده است، در صورت وجود هرگونه نقض حقوق مالکیت معنوی، می‌توانید با ما تماس بگیرید تا تصاویر حذف شوند.