آموزش سواد سایبری

کمپانی Evidently یک دوره رایگان ۷ روزه عالی گذاشته که از۹ دسامبر شروع میشه. این دوره درباره ارزیابی (evaluation) مدلهای LLM برای تیمهای محصول و AI leaders هست.
‏ نیازی هم به دانستن برنامه نویسی نیست. بعضی از تاپیک ها: observability مدلهای LLM در production
‏و hallucinations, prompt injection, jailbreaks و...
‏توی خود وبسایت اطلاعات کامل راجع به همه موضوعاتی که تدریس میشه هست.

https://www.evidentlyai.com/llm-evaluations-course

Otio AI
بهترین ابزار برای یادگیری و مطالعه است. این هوش مصنوعی کارها را خیلی سریع‌تر و بهتر از ChatGPT انجام می‌دهد.
چه کارهایی انجام می‌دهد؟
* خلاصه‌سازی سریع: هر نوع محتوایی، مثل ویدیو، کتاب یا سخنرانی رو می‌تونه بخونه و مهم‌ترین نکاتش رو به صورت خلاصه برات بیاره.
* پیدا کردن منابع معتبر: هر سوالی که داشته باشی، Otio می‌تونه بهترین و معتبرترین منابع رو پیدا کنه و لینک‌شون رو بهت بده.
* ویرایش حرفه‌ای متن: فقط کافیه نوشته‌ت رو به Otio بدی تا در عرض چند ثانیه یه متن کامل و بی‌نقص تحویل بگیری.
به زبان ساده: Otio یه دستیار هوشمنده که همه کارهای سخت مطالعه رو برات انجام می‌ده تا بتونی بیشتر روی یادگیری تمرکز کنی.

https://otio.ai/

گزارشی کامل از وضعیت Generative AI در کمپانی های enterprise منتشر شده .
در اینجا، خلاصه میگم که چطور سال ۲۰۲۴، سالی شد که هوش مصنوعی مولد (Generative AI) برای شرکت‌ها حیاتی شد.

سال ۲۰۲۴ نقطه عطفی برای هوش مصنوعی مولد در شرکت‌ها بود.
‏هزینه‌ها به ۱۳.۸ میلیارد دلار رسید، ۶ برابر ۲.۳ میلیارد دلار در سال ۲۰۲۳.
‏دیگر AI آزمایشی نیست—هوش مصنوعی در حال تبدیل‌شدن به ستون اصلی استراتژی‌های کسب‌وکار است.

‏۷۲٪ از تصمیم‌گیرندگان انتظار دارند به‌زودی هوش مصنوعی گسترده‌تر پذیرفته شود. اما چالش‌ها باقی هستند:
‏- ۳۳٪ از سازمان‌ها استراتژی مشخصی برای هوش مصنوعی ندارند.
‏- پیشروها در حال پیشرفت هستند، اما بسیاری هنوز در مراحل آزمایشی‌اند.

‏تحول از آزمایش به تولید واقعی آغاز شده، اما این فقط شروع کار است.

پول کجا خرج می‌شود؟
‏- ۶۰٪ هزینه‌ها از بودجه‌های نوآوری است.
‏- ۴۰٪ از بودجه‌های دائمی، نشان‌دهنده تعهد بلندمدت هست.
‏لایه application سریع‌ترین رشد را دارد—۴.۶ میلیارد دلار در ۲۰۲۴ (۸ برابر نسبت به ۲۰۲۳).
‏
‏موارد استفاده اصلی در شرکت‌ها:
‏- کد کوپایلوت‌ها (۵۱٪ پذیرش): GitHub Copilot، Codeium، ابزارهای AI DevOps.
‏- چت‌بات‌های پشتیبانی (۳۱٪): Aisera، Sierra، Observe AI.
‏- جستجوی سازمانی/بازیابی اطلاعات (۲۸٪): Glean، Sana.
‏- خلاصه‌سازی جلسات (۲۴٪): Fireflies، Otter .ai، Fathom.

تمرکز بر پذیرش مبتنی بر ROI (بازده سرمایه‌گذاری).
‏روندهای (trendها) کلیدی:
‏- تقویت فرآیندهای انسانی > اتوماسیون کامل.
‏-سیستم های "AI agents" مانند Forge و Sema4 در حال ظهور هستند و فرآیندهای پیچیده را کاملاً خودکار می‌کنند.
‏-نگاهی به آینده «خدمات به‌عنوان نرم‌افزار» (Services-as-Software)

‏پیاده سازی یا خریدن؟
‏این روند در حال تغییر است:
‏- ۲۰۲۳: ۸۰٪ به فروشندگان متکی بودند.
‏- ۲۰۲۴: ۵۳٪ خرید می‌کنند، ۴۷٪ خودشان می‌سازند.
‏اعتماد به ساخت ابزارهای هوش مصنوعی داخلی در حال افزایش است.

پذیرش بدون چالش نیست:
‏دلایل شکست آزمایش‌ها (pilots):
‏- هزینه‌های غیرمنتظره اجرا (۲۶٪).
‏- مسائل حریم خصوصی داده (۲۱٪).
‏- بازده ضعیف سرمایه‌گذاری (۱۸٪).

‏برنامه‌ریزی فعالانه کلید جلوگیری از این مشکلات است.

‏تحول در بخش‌های سازمانی:
‏بودجه‌های هوش مصنوعی مولد اکنون به تمام گوشه‌های سازمان رسیده است.
‏بیشترین هزینه‌کنندگان:
‏- هزینه IT (۲۲٪)
‏- محصول/مهندسی (۱۹٪)
‏- تیم‌های مشتری‌محور (پشتیبانی، فروش، بازاریابی ~۲۴٪ به طور مشترک).

هوش مصنوعی خاص عمودی (Vertical-specific AI) در حال رشد است:
‏- سلامت (۵۰۰ میلیون دلار): دستیاران اسناد پزشکی، اتوماسیون چرخه درآمد.
‏- حقوقی (۳۵۰ میلیون دلار): بازبینی قراردادها، کشف الکترونیک.
‏- خدمات مالی (۱۰۰ میلیون دلار): حسابداری، انطباق، اتوماسیون فرآیندهای پشتیبانی.

در زیرساخت‌ها، AI stack مدرنی در حال تثبیت است:
‏- مدل‌های زبانی بزرگ (LLMs) با ۶.۵ میلیارد دلار سرمایه‌گذاری، تسلط دارند.
‏- استراتژی‌های چندمدلی غالب‌اند—شرکت‌ها از بیشتر از۳ مدل برای موارد استفاده مختلف، استفاده می‌کنند.

‏سهم بازار OpenAI از ۵۰٪ به ۳۴٪ کاهش یافت، در حالی که Anthropic به ۲۴٪ رسید.

الگوهای طراحی در حال ظهور:
‏- سیستمهای RAG: اکنون ۵۱٪ پذیرش (۳۱٪ در ۲۰۲۳).
‏- فاین تیونینگ: فقط ۹٪ مدل‌ها در production فاین تیون شده‌اند.
‏سیستمهای مبتنی بر RAG در حال تبدیل‌شدن به استاندارد طلایی برای سیستم‌های مقیاس‌پذیر و قابل‌اعتماد هوش مصنوعی است.
‏
‏با وجود پیشرفت، نارضایتی از بازیگران قدیمی در حال افزایش است:
‏- ۴۰٪ راه‌حل‌های فعلی را زیر سؤال می‌برند.
‏- ۱۸٪ ناراضی هستند.
‏استارتاپ‌ها با ابزارهای خاص در حال پر کردن این شکاف‌ها هستند.

هوش مصنوعی مولد دیگر "آینده" نیست—اینجاست.
‏از برنامه‌های کاربردی عمودی (vertical applications) تا نوآوری‌های زیرساختی، صنایع را دگرگون می‌کند.

‏لینک به گزارش اصلی:

https://menlovc.com/2024-the-state-of-generative-ai-in-the-enterprise/

بازهم یک مقاله و مدل جدید به اسم MagicQuill که یک سیستم interactive و باهوش برای edit عکس ارائه کرده. UI ساده و تغییرات دقیق تصویر از ویژگیهای این مدل جدید هست.

https://github.com/magic-quill/magicquill

یکی از بهترین جاها برای اینکه جدیدترین مدلها و اینکه چطور کار میکنن سرزدن به space ها در وبسایت HuggingFace هست. امروز چندین اپلیکیشن و مدل جالب دیدم که یکیشون این بود. یک مدل جدید به اسم Kolors Character که کیفیت بصری کاراکتر در تصویر را با استفاده از Flux-dev بهبود میده بدون اینکه شخصیت و ویژه گیهای کاراکتر به هم بخوره.
‏
‏اینجور مدلها، برای اپلیکیشن های حوزه مُد، و ecommerce و تبلیغات خیلی کاربرد دارن.

https://huggingface.co/spaces/Kwai-Kolors/Kolors-Character-With-Flux

ابزارهای زیادی برای خوندن و استخراج (extraction) متن از فایلهای مختلف بخصوص PDF وجود داره. اما ابزاری که بتونه متن نمودار/چارت تصویر و جدول را هم دقیق بکشه بیرون زیاد نیست یا حداقل نبود تا اخیرا که چندین tool خوب اومده که دقتشون واقعا عالیه.
‏چرا این ابزارها خیلی مهم اند؟ چون که در خیلی از اپلیکیشن ها مدلهای LLM نیاز دارن به محتوای این فایل ها تا بتونن جواب درست را تولید کنن.
‏یکی از این ابزارها که واقعا دقتش بالاست اسمش MinerU هست.

فیچرهاش که خیلی زیادند ولی بعضی هاشون:
‏- خروجی متن به ترتیبی قابل فهم برای انسان، مناسب برای طرح های تک ستونی، چند ستونی و پیچیده.
‏- حفظ ساختار سند (document) اصلی، از جمله عناوین، پاراگراف ها، لیست ها و غیره.
‏- استخراج تصاویر، توضیحات تصویر، جداول، عناوین جدول و پانوشت ها.
‏- تشخیص خودکار و تبدیل فرمول های موجود در سند به فرمت LaTeX.
‏- تشخیص خودکار و تبدیل جداول موجود در سند به فرمت HTML.
‏- تشخیص خودکار PDF های اسکن شده و PDF های بهم ریخته و فعال کردن قابلیت OCR.
‏- ویژگی OCR از تشخیص و شناسایی در 84 زبان پشتیبانی می کند.
‏فارسی را هم امتحان کردم کار میکنه با دقت بالا.

https://huggingface.co/spaces/opendatalab/MinerU