7月底，马列学院的筹备工作紧张地开展起来。
筹办一个党校，面临许多实际问题，如，寻找校址、选调工作人员拟定、招生条件、考试题目，确定录取学员数额等。刘少奇不嫌工作琐碎，都亲自参加研究确定。
8月中旬，他拟定了第一期招生的试题和要求：“《我所了解的马克思主义》、《我对中国社会各阶级的认识》，自拟一篇，写自己最熟悉、了解比较深刻的问题。”他还开列了第一学期的课程，并同大家初步商定了授课教员的名单。
经过紧张的筹备，1948年11月8日，马列学院第一期在河北平山县李家沟口开学了。
开学后，刘少奇亲自到校给学员讲话。他的讲话内容广泛，从学习马列主义的重要性、目的、学习态度、学习方法到国际国内形势和党员的个人修养，言之有物，语重心长，学员都感到收益很大。
刘少奇特别针对当时学员中存在的轻视理论学习的倾向，反复阐述提高全党干部的理论水平对今后革命和建设的重大意义，启发学员掌握和运用马列主义理论，提高了大家学习理论的积极性和自觉性。学员深有感触地说：“少奇同志是我们名副其实的院长。”
刘少奇兼任马列学院院长近五年，虽日理万机，但对党校工作，无论大小，都很关心。有一次，一个学员被开除学籍，宣布这件事的布告，他都亲自作了修改。