یعقوب پسر لیث در روستای قرنین در سیستان به دنیا آمد. لیث پدر یعقوب در سیستان شغل رویگری داشت. او چهار پسر به نام‌های یعقوب و عمرو و علی و طاهر داشت. از بین ایشان عمرو بعد از یعقوب برای مدتی حکومت کرد، اما دورهٔ حکومت او زیاد طول نکشید. یعقوب نیز در آغاز مانند پدر رویگری می‌کرد و هر چه به دست می‌آورد، به دوستانش ضیافت می‌کرد. چون به سن رشد رسید، عده‌ای از عیّاران او را به سرداری خود برگزیدند.

در سال ۲۳۷ که طاهر بن عبدالله در خراسان حکومت می‌کرد، مردی از اهل بُست به نام صالح بن نصر کنانی بر سیستان مسلط شد و یعقوب به خدمت وی درآمد. طاهر که مردی با تدبیر بود، صالح بن نصر را از سیستان بیرون کرد و پس از وی درهم بن نصر خروج کرد و سیستان را تصرف نمود و سپاهیان طاهر را از سیستان بیرون کرد. درهم که نتوانست از عهدهٔ سپاهیان بر آید، یعقوب را سردار سپاه خویش کرد. سپاهیان چون ضعف فرماندهی درهم را دیدند، از فرماندهی یعقوب استقبال نمودند.