Faragiri

آموزش هوش مصنوعی

مدل در فارسی با همان اطمینان جواب می‌دهد و بیشتر اشتباه می‌کند. هشت موضوع این شاخه بر اساس فاصله‌ای تقسیم شده‌اند که یک جواب اشتباه تا رسیدن به یک آدم طی می‌کند.

۷بخش
۹دقیقه خواندن
۱عمق

تقسیم

فاصله‌ای که جواب اشتباه تا رسیدن به یک آدم طی می‌کند

چهار فاصله، و بررسی‌ای که در یکی کافی است در بعدی بررسی اشتباهی است.

  1. ۰۴هیچ‌کس هیچ خروجی‌ای را تک‌تک نمی‌خواندیادگیری ماشین و داده. یک جمع بیرون می‌آید، و یک جواب اشتباه داخلش دیده نمی‌شود و جمع را جابه‌جا می‌کند.آنچه رویش برازش شده
  2. ۰۳یک غریبه می‌خواندش و شما هرگز نمی‌خوانیدساخت با مدل. حواس آدم به غریبه‌ها نمی‌رسد، پس بررسی باید نوشته شود و بعد از هر تغییر دوباره اجرا شود.یک مجموعه نمونه نوشته‌شده
  3. ۰۲یک حلقه کاری کرد و شما گزارشش را خواندیدایجنت‌ها. جواب اشتباه از قبل اتفاق افتاده، و گزارشش را همان چیزی نوشته که از آن پرسیده‌اید.پیش از اجرا تعیین شده
  4. ۰۱هر کلمه را خودتان می‌خوانیدپرامپت‌نویسی، و تولید تصویر و ویدیو و صدا. جواب اشتباه به اندازه دقیقه‌ای که گرفتنش طول می‌کشد خرج برمی‌دارد.حواس خودتان

درباره اینکه احتمال جواب اشتباه در هر پله چقدر است چیزی نمی‌گوید، و آن احتمال بین پله‌ها زیاد فرق نمی‌کند. چیزی که فرق می‌کند این است که وقتی می‌رسد چه کسی آنجا ایستاده.

یک مدل به فارسی با همان لحن جواب می‌دهد که به انگلیسی، و به همان اندازه درست نیست. هیچ‌چیز در جمله فارسی نشان نمی‌دهد کدام‌یک را گرفته‌اید؛ لحن در هر دو زبان یکسان است و دقت نیست.

هشت موضوع زیر این شاخه نشسته‌اند و آنچه از هم جداشان می‌کند نه نوع خروجی است و نه نام سازنده مدل. فاصله‌ای است که یک جواب اشتباه تا رسیدن به چشم یک آدم طی می‌کند، و در فارسی گران‌تر تمام می‌شود.

تقسیم بر فاصله است، نه بر ابزار

تقریباً هرچه به فارسی درباره این موضوع نوشته شده یا بر اساس نوع خروجی دسته‌بندی شده، متن یک طرف و تصویر طرف دیگر، یا بر اساس محصول: فهرستی از ده ابزار که با هر تکان نسخه از نو نوشته می‌شود. اولی مجبور است «خروجی را بررسی کنید» را چهار بار تکرار کند و دومی حدود یک فصل عمر دارد. فاصله دسته‌بندی‌ای است که دوام می‌آورد، چون فاصله تعیین می‌کند بررسی چه شکلی داشته باشد.

دو موضوع از این هشت‌تا روی نردبان نیستند و تقسیم به این اعتراف بهتر است. آن‌قدر از سازوکار که بشود رفتارش را پیش‌بینی کرد زیر هر چهار پله جریان دارد، چون توضیح می‌دهد چرا جواب قانع‌کننده جواب پیش‌فرض است. از هشت شاخه‌ای که زیر دانش شکل دارد نشسته‌اند این یکی زودتر از همه کهنه می‌شود، پس هر ادعا اینجا تاریخ دارد.

اول باید بشود بازش کرد

در متن‌های فارسی این بند آخر صفحه است یا اصلاً نیست؛ برای خواننده ایرانی اول از همه می‌آید. سه دستیار مرزی، یعنی Claude و ChatGPT و Gemini، از ۲۰۲۶ جای نتیجه جست‌وجویی را گرفته‌اند که باید می‌خواندید تا جواب داخلش پیدا شود. تا میانه ۲۰۲۶ هیچ‌کدام از ایران مستقیم باز نمی‌شوند و هیچ‌کدام از کارت بانکی ایرانی پول نمی‌گیرند. هر سه لایه رایگان دارند، و لایه رایگان مدلی کوچک‌تر با افسار کوتاه‌تر از چیزی است که شرکت می‌فروشد؛ اشتباه رایج قضاوت کردن کل خانواده از روی همان لایه است.

در عمل دو کار انجام می‌شود: راه دور زدن، که پایداری اتصال را می‌گیرد، و خریدن اشتراک از واسطه، که یعنی حساب به نام شما نیست. گفت‌وگوهایتان داخل حسابی می‌ماند که کلیدش دست کس دیگری است و وسط ماه می‌تواند بسته شود. داده مشتری را که آنجا بگذارید، به دو نفر داده‌اید نه یکی.

راهی که نه حساب می‌خواهد نه کارت خارجی، اجرای مدل روی دستگاه خودتان است. Ollama از ۲۰۲۶ ابزار متعارف این کار است؛ جای کامپایل کردن llama.cpp با دست را گرفت، رایگان و متن‌باز است و هزینه‌اش دیسک و حافظه. دو اشتباه رایج: اجرای یک مدل کوچک روی لپ‌تاپ و نتیجه گرفتن اینکه مدل‌ها ضعیف‌اند، و خواندن «وزن باز» به معنای «اجازه باز»، در حالی که چند پروانه شناخته‌شده استفاده تجاری را منع می‌کند. برای کد هم Claude Code از ۲۰۲۶ جای تکمیل خودکاری را گرفته که خط در حال تایپ را تمام می‌کرد، و راه رایگانی ندارد.

مدل در فارسی همان مدل نیست

همان مدل در فارسی ضعیف‌تر است، به دو دلیل که هیچ‌کدام به شما ربطی ندارد. یکی حجم: متن فارسیِ در دسترس برای آموزش، در برابر متن انگلیسی، کم است. دیگری تکه کردن متن: واژگان درونی مدل بیشتر روی انگلیسی برازش شده، پس یک بند فارسی به تکه‌های بیشتری بریده می‌شود، جای بیشتری از پنجره متن می‌گیرد و گران‌تر تمام می‌شود.

اثرش جای دیگری بیرون می‌زند: هرجا استخر متن درست فارسی نازک‌تر است، جمله قانع‌کننده بیشتر ساخته می‌شود تا به یاد آورده. یک بیت از حافظ بخواهید و ممکن است بیتی بگیرید که وزنش سالم است و در دیوان حافظ نیست؛ همین را درباره مهلت یک اداره یا تبدیل یک تاریخ شمسی بپرسید و همان اتفاق می‌افتد، با همان لحن. کاری که می‌شود کرد: سوال را به انگلیسی بنویسید و جواب را به فارسی بخواهید. این ادب نیست، تقسیم کار است.

ده سفارش

بزرگ‌ترین سفارش خیاطی مریم، بدترین ساعت کار آن است

قیمت سفارش و مبلغ هر ساعت همین پنج کار را تقریباً وارونه هم مرتب می‌کنند، و فقط یکی از این دو ترتیب بدون تقسیم کردن دیده می‌شود.

جمع مبلغ تقسیم بر جمع ساعت، از همان ده سفارش بالا. خیاطی ساختگی است؛ تقسیم نه.

  1. کوتاه کردن پاچه شلوارسه سفارش، هرکدام نیم ساعت۷۰۰ هزار تومان
  2. تنگ کردن مانتودو سفارش، دو ساعت و نیم روی هم۴۸۰ هزار تومان
  3. دوخت شلوار سفارشیدو سفارش، و دومی یک ساعت بیشتر برد۴۰۰ هزار تومان
  4. دوخت مانتوی سفارشیدو سفارش، شش ساعت و نیم روی هم۳۶۹٫۲ هزار تومان
  5. دوخت لباس مجلسییک سفارش، و همانی که مریم به آن می‌بالد۳۱۵٫۲ هزار تومان

ده سطر برای قیمت‌گذاری یک کارگاه کم است. برای نشان دادن اینکه ترتیب بر اساس مبلغ سفارش و ترتیب بر اساس ساعت یکی نیستند کافی است، و همین است که با یک نگاه اشتباه فهمیده می‌شود.

یک پرامپت، خط به خط

مریم دستغیب یک خیاطی دونفره در شیراز دارد و می‌خواهد بداند کدام سفارش را نباید با قیمت فعلی بپذیرد. ماه گذشته در یک دفتر است: ده سفارش، با مبلغ و ساعت هرکدام. پرامپت کامل این است.

  • شما دارید برای یک خیاطی دونفره قیمت کار را بررسی می‌کنید.
  • برای هر نوع سفارش یک سطر برگردانید، با این ستون‌ها: نوع سفارش، تعداد، جمع مبلغ، جمع ساعت، مبلغ هر ساعت.
  • هر تقسیم را پیش از جدول و هرکدام روی یک خط بنویسید تا بشود حساب را بررسی کرد.
  • بعد بگویید کدام سفارش را نباید با این قیمت پذیرفت، و کدام یک عدد این را تعیین کرده است.
  • ماه گذشته، هر سطر یک سفارش، مبلغ به هزار تومان و زمان به ساعت: کوتاه کردن پاچه ۳۵۰ و ۰٫۵؛ کوتاه کردن پاچه ۳۵۰ و ۰٫۵؛ کوتاه کردن پاچه ۳۵۰ و ۰٫۵؛ تنگ کردن مانتو ۶۰۰ و ۱؛ تنگ کردن مانتو ۶۰۰ و ۱٫۵؛ شلوار سفارشی ۱۰۰۰ و ۲؛ شلوار سفارشی ۱۰۰۰ و ۳؛ مانتوی سفارشی ۱۲۰۰ و ۳؛ مانتوی سفارشی ۱۲۰۰ و ۳٫۵؛ لباس مجلسی ۵۲۰۰ و ۱۶٫۵.
  • اگر سطری مبهم بود، بگویید مبهم است و به جای من انتخاب نکنید.

خط اول فقط واژگان را تنظیم می‌کند، و همان خطی است که قالب‌های آماده تمام بودجه‌شان را خرجش می‌کنند. خط دوم جایش را می‌خرد: شکل جواب را پیش از خود سوال به مدل بدهید. مدل خروجی‌اش را تکه‌تکه می‌سازد، پس شکلی که در آن شروع می‌کند همان است که تمام می‌کند.

خط سوم کل ماجراست. با تقسیم‌ها، جواب در بیست ثانیه با ماشین‌حساب گوشی رد یا تایید می‌شود؛ بدون آن‌ها معلوم نمی‌شود کدام خانه حساب شده و کدام ساخته. خط چهارم نتیجه را به یک عدد وصل می‌کند نه به یک بند، و خط آخر فشار تمیز بودن را برمی‌دارد، جایی که ده سطر تمیزی را پشتیبانی نمی‌کند.

حساب درست، جمع بر جمع است، و مبلغ‌ها به هزار تومان‌اند. کوتاه کردن پاچه: ۱۰۵۰ روی یک ساعت و نیم، یعنی ۷۰۰ هزار تومان در ساعت. تنگ کردن مانتو: ۱۲۰۰ روی دو ساعت و نیم، یعنی ۴۸۰ هزار تومان. شلوار سفارشی: ۲۰۰۰ روی پنج ساعت، یعنی ۴۰۰ هزار تومان. مانتوی سفارشی: ۲۴۰۰ روی شش ساعت و نیم، یعنی ۳۶۹٫۲ هزار تومان. لباس مجلسی: ۵۲۰۰ روی شانزده ساعت و نیم، یعنی ۳۱۵٫۲ هزار تومان. پس بزرگ‌ترین سفارش فهرست، بدترین ساعت کار آن است.

همین را بدون خط سوم بفرستید و بندی روان برمی‌گردد که پیشنهاد می‌کند کوتاه کردن پاچه کنار گذاشته شود، چون ۳۵۰ کوچک‌ترین عدد صفحه است. کوتاه کردن پاچه بهترین ساعت آن کارگاه است، و برای هرکسی که تقسیمی نکرده در دسترس است.

جایی که سوال به جای حساب یک تصمیم است، یک خط عوض می‌شود: به جای یک جواب، سه گزینه و یک پیشنهاد بخواهید. سه گزینه را می‌شود با سطرها سنجید؛ با یک جواب فقط می‌شود موافقت کرد. این همان مهارتِ بریفینگ دادن به یک غریبه کاربلد است، و برای همین فهمیده شدن، در هر شکلی که کار به خود می‌گیرد همسایه نزدیک‌تری است تا بیشتر نرم‌افزارها.

ایست: جایی که جواب مطمئن باور می‌شود

کار آنجا می‌ایستد که جواب‌ها آن‌قدر خوب شده‌اند که بررسی کردنشان مثل خرج کردن وقتی است که تازه صرفه‌جویی شده. حس ایستادن ندارد: خروجی بالا می‌رود و اولین هزینه واقعی هفته‌ها بعد می‌رسد، داخل چیزی که از قبل فرستاده شده. دانستن اینکه مدل ممکن است اشتباه کند هیچ سه‌شنبه‌ای را عوض نمی‌کند؛ دانستن اینکه در چه دسته سوال‌هایی قابل اتکا اشتباه می‌کند هر سه‌شنبه را عوض می‌کند.

دسته‌ها پنج‌تا هستند. هرچه عدد دقیق دارد: حساب روی سطرهایی که خودتان چسبانده‌اید، یک شمارش، تاریخی که از تاریخ دیگری کم شده. هرچه خیلی تازه است: یک قیمت، یک شماره نسخه. هرچه درباره خود مدل است، از جمله اینکه کاری را که گفت انجام داده یا نه. و هرچه مخصوص ایران است، چون استخر متن درست فارسی نازک است: مهلت یک اداره، قیمتی به تومان، یا نام کسی که یک بیت را گفته.

پنجمی بیشترین هزینه را دارد. مدل آنجا بیشترین خطا را دارد که جواب قانع‌کننده و جواب درست شبیه هم‌اند: ارجاعی که وجود ندارد شکل ارجاعی را دارد که وجود دارد، و نام تابعی که هیچ کتابخانه‌ای نداشته دقیقاً مثل نامی خوانده می‌شود که داشته. پس اطمینان در لحن هیچ خبری از درست بودن نمی‌دهد: جمله روان و جمله درست از یک ماشین می‌آیند.

ایست

از خود جواب چه چیزی را می‌شود بررسی کرد و چه چیزی را نه

هر سطر این فهرست با همان لحن می‌رسد، و همین دلیل وجود خود فهرست است.

یک جواب درباره خودش چه می‌گوید

  1. بلهاینکه اصطلاح‌ها درست به کار رفته‌اندسطح کار همان چیزی است که آموزش پاداشش داده، و قابل اتکاست.بله
  2. خیراینکه حساب انجام شده و ساخته نشدهرقم‌ها از همان ماشینی بیرون می‌آیند که جمله‌ها.خیر
  3. خیراینکه منبعی که به آن ارجاع داده وجود داردیک ارجاع اشتباه شکل ارجاع درست را دارد.خیر
  4. خیراینکه تا همین ماه به‌روز استآموزش پیش از این ماه تمام شده.خیر
  5. بررسی نشدهاینکه همین یک جواب جزو اشتباه‌ها هست یا نههیچ‌چیز در جمله‌بندی این دو را از هم جدا نمی‌کند، و کسی هم نگاه نکرده.بررسی نشده

حالت سوم همان صادقانه است. اگر آن سطر آخر در بله یا نه جا می‌گرفت، ادعا می‌کرد کسی بررسی کرده.

ترتیب، و آنچه دمو نشان نمی‌دهد

ترتیب درست از پله پایین شروع می‌شود: اول پرامپت‌نویسی، و داخل آن داوری درباره چیزی که برگشته، چون هر چیزی بالاتر همان داوری را ضرب می‌کند. ترتیب اشتباه همان هیجان‌انگیز است، یعنی ایجنت پیش از داوری. ایجنت خروجی‌هایی تولید می‌کند که کسی تک‌تک نمی‌خواندشان، پس ساختنش داوری‌ای را خودکار می‌کند که هنوز ندارید. شکل ایرانی‌اش رایج است: فروختن یک چت‌بات فارسی به مشتری، پیش از داشتن راهی برای اینکه بفهمید جوابش خوب است یا فقط روان.

ایجنتی که پوسته و مرورگر و یک دسته کلید در دست دارد، به همان اندازه که توانایی تازه است سطح حمله تازه است، و اینکه اجازه دارد به چه چیزی دست بزند پیش از اجرا تعیین می‌شود. برای همین دفاع از سیستم‌ها، و اول از همه فهمیدن حمله‌ها همسایه واقعی این شاخه است نه پیوندی تعارفی.

ساخت

آن بخشی از یک سامانه که مدل است، همان بخشی است که دیده می‌شود

هرچه بالای خط است چیزی است که دمو نشان می‌دهد و آموزش‌ها درباره‌اش هستند. هرچه زیر خط است تعیین می‌کند این چیز یک ماه دوام می‌آورد یا نه.

  • فراخوانی مدلچند خط، و همان بخشی که هر آموزشی درباره‌اش است
  • خود پرامپتبیشتر از هر چیز دیگری اینجا بازنویسی می‌شود، و عوض کردنش ارزان است
  • جوابی که روی صفحه می‌آیدهمان که دمو داده می‌شود و همان که پول جذب می‌کند
آنچه دمو نشان می‌دهد
  • سندهای تمیزشدهبازیابی یک مسئله داده است که لباس مدل پوشیده
  • مجموعه ارزیابیتنها راه فهمیدن اینکه یک تغییر کمک کرده، نه اینکه فقط حس بهتری داده
  • اینکه اجازه دارد به چه چیزی دست بزندپیش از اجرا تعیین می‌شود، چون بعدش فقط یک گزارش هست
  • سیاهه آنچه واقعاً گفتهتا اولین باری که کسی بپرسد، هیچ‌کس نگهش نمی‌دارد
  • پروانه روی وزن‌هاقابل دانلود بودن یعنی قابل استفاده بودن برای هر کاری نیست

نسبت‌ها را نمی‌گوید، چون کسی اندازه‌شان نگرفته. این نقاشی ادعایی است درباره اینکه حواس کجا می‌رود، نه درباره تعداد خط‌های کد.

نشانه‌ای که می‌شود بررسی کرد

در ماه اول کسی سوالی می‌پرسد و جواب را می‌خواند؛ در ماه سوم همان آدم سوال را طوری می‌پرسد که جواب اشتباه دیده شود. نسخه بررسی‌پذیرش چهار دقیقه طول می‌کشد: یک سوال را یک بار به فارسی و یک بار به انگلیسی بپرسید و دو جواب را کنار هم بگذارید. هرجا یکی‌اند، مدل چیزی را تکرار می‌کند که در آموزشش پرتکرار بوده؛ هرجا فرق دارند، روی یک عدد یا یک نام یا یک تاریخ، همان‌جاست که ساخته شده نه به یاد آورده.

هشت موضوع، و اینکه هرکدام روی کدام پله است

پرامپت‌نویسی جای شروع است، چون تنها موضوعی است که بازدهی‌اش به بقیه وابسته نیست. ساختن تصویر، ویدیو، صدا و متن با یک مدل همان پله پایین را دارد و جدا نگه داشته شده، چون خطاهایش گونه دیگری‌اند: نه یک واقعیت غلط، بلکه صدایی که تقریباً صدای یک نفر مشخص است. مدلی که ابزار گرفته و اجازه دارد کاری بکند پله دوم است، جایی که خطر شکلش عوض می‌شود نه اندازه‌اش.

گذاشتن یک مدل داخل نرم‌افزار خودتان پله سوم است و به دست آوردنش، تمیز کردنش، و فهمیدن اینکه چه می‌گوید زیرش می‌نشیند، چون بازیابی بیشتر یک مسئله داده است. روی پله چهارم مدل‌هایی که از داده یاد گرفته می‌شوند قدیمی‌ترین ماده اینجایند و هنوز روی یک جدول از سطرها برنده‌اند.

هوش مصنوعی در کار همانی است که آدم‌ها آخر از همه سراغش می‌روند و باید دومین باشد. نمونه‌اش دیوار به دیوار همین صفحه است: جواب‌های تولیدشده بالای نتایج ارزش یک کلیک را عوض کردند و آن نتیجه‌ای بودن که کلیک می‌شود، بی‌آنکه پولش را داده باشید مجبور شد حسابش را از نو بکند. همسایه کم‌گفته‌شده زبان دوم جهان، از گرامرش تا مصاحبه شغلی است، چون انگلیسی خواندن سوال را به زبان قوی‌تر مدل می‌برد.

و سوالی که این صفحه جوابش را ندارد: کار خودتان روی کدام پله است. بیشتر آدم‌ها می‌گویند پله اول، و بیشترشان از وقتی چیزی که ساخته‌اند بی‌ناظر اجرا می‌شود روی پله دوم‌اند. گرفتن جواب به‌دردبخور به جای جوابی که فقط قانع‌کننده است جایی است که این خروجی به خروجی حل می‌شود.

کنار این

بالای این