🔴 موضوع برنامه ی OFF By ONE Security، این هفته "Advanced Pickle Exploitation Against LLM’s with Python" هستش و قراره در خصوص سوء استفاده از Pickle علیه LLM صحبت کنن.

مهمان برنامه : Mark Baggett (نویسنده دوره SEC573/SEC673)

این برنامه قراره ساعت 30 : 22 به وقت ایران از طریق یوتیوب و توییتر پخش بشه.

برنامه ضبط میشه، بعدا هم میتونید از لینکهای بالا مشاهده کنید.

ماژول Pickle در پایتون برای سریال‌سازی و ذخیره‌سازی اشیاء پایتون در فایلها استفاده میشه. مثلا شما بجای اینکه اطلاعات برنامه اتون رو داخل یک فایل متن ساده ذخیره کنید، می تونید با استفاده از Pickle، اونو در یک فایلی ذخیره کنید که بصورت متن ساده قابل خوندن نیست. یک فایل pickle شامل بایت کد قابل اجرا (دنباله ای از opcodeها) است که توسط یک ماشین مجازی به نام pickle VM تفسیر میشن. با این توضیحات این فایلها میتونن مخرب باشن، چون مهاجم میتونه کد مخرب رو داخلشون قرار بده و اجرا کد داشته باشه.

مثلا یکی از تکنیکهایی سوء استفاده از این فایلها، تکنیک Sleepy Pickle هستش که مهاجم میتونه با تزریق کد در این فایلها روی رفتار LLMها تاثیر بزاره.

#هوش_مصنوعی #پایتون
#OffByOneSecurity #llm #python #ArtificialIntelligence #AI

🆔 @onhex_ir
➡️ ALL Link