ارتبط تاريخ أجداد أسرة البرامكة بنشاطهم الديني في مدينة “بلخ”، التي تعد من أشهر مدن خراسان الفارسية، التي كانت آنذاك مدينة مقدسة تقصدها الشعوب المجاورة سنويًّا لتقديم القرابين، وكان أجداد البرامكة سَدَنَة المعبد المشتهر باسم “النوبهار”، فجدهم برمك المجوسي هو سادن معبد النار، واشتهر برمك وبنوه بسدانته، وكان عظيم المقدار عندهم. وقد ظل البرامكة على دينهم حتى أواخر عهد الدولة الأموية 90ه/ 708م، وجدهم “برمك” كان أحد المحرضين في بلخ على نقض الصلح مع المسلمين. والمعلومات غامضة عن حياة خالد البرمكي أو حتى نشأته الإسلامية، فهناك بعض المؤرخين يرى أنه نشأ على دين  المجوسية دين أجداده، وأن نشاطه السياسي بدأ مع الدعوة العباسية، ومع مرور الوقت وقيام الدولة العباسية، وحسبما  يقول الأصفهاني عن ازدياد نفوذ البرامكة وسيطرتهم على الأمور: “أن في دولة الرشيد دولة أخرى ملوكها البرامكة”، فيحيى بن خالد البرمكي  كان صاحب الكلمة العليا في شؤون الدولة، له الوزارة، وهي وزارة تفويض وله الدواوين كلها، وقد منح يحيى امتيازات خطيرة، فهو أول من أُمِّرَ من الوزراء، إذ استقل بمكاتبة العمال ولم يكن لمثل هذه المكاتبات أن تصدر في السابق إلا عن طريق الخليفة نفسه. فيحيى قد جمع في قبضته القوة السياسية والإدارية والقوة الاقتصادية.

توَلَّى خالد وتقدم في الدولة العباسية، وتولى الوزارة لأبي العباس بعد أبي سلمة حفص الخلال، وقال عنه المسعودي في كتاب مروج الذهب: “لم يبلغ مبلغ خالد بن برمك أحد من ولده في جُودِه ورأيه وبأسه وعلمه وجميع خِلَاله (صفاته)، لا يحيى في رأيه ووفور عقله، ولا الفضل بن يحيى في جوده ونزاهته، ولا جعفر بن يحيى في كتابته وفصاحة لسانه، ولا محمد بن يحيى في سروه وبعد همته، ولا موسى بن يحيى في شجاعته وبأسه”.

لقد برز نجم يحيى البرمكي في الظهور في فترة تَوَلِّي والده خالد للمناصب في عهد الخليفة العباسي أبي جعفر المنصور، وفي عهد الخليفة الهادي القصيرة، حل يحيى البرمكي محل والده في زعامة البيت البرمكي، وخلال تلك الفترة التاريخية المهمة ارتبط هارون الرشيد ولي العهد وشقيق الخليفة، حيث كان يحيى يتولى الكتابة لهارون الرشيد. كما تشير المصادر التاريخية إلى الدور الذي اضطلع به يحيى البرمكي في دعم هارون الرشيد باعتباره صاحب حق في الاستمرار في ولاية العهد وذلك لما أراد الخليفة الهادي أن يولي ابنه الصغير ولاية العهد بدلاً من أخيه الرشيد؛ رفض يحيى ذلك وقال للهادي: “أتظن أن الناس يسلمون الخلافة لجعفر وهو لم يبلغ الحلم ويرضون به”.