Nacido en Yancheng, en la provincia china de Jiangsu, en una familia de terratenientes. Estudió física en la universidad, pero pronto cambió de orientación y se graduó en periodismo con objeto de contribuir a la difusión de las enseñanzas comunistas. Fue secretario del presidente Mao Zedong durante 25 años y uno de los hombres fuertes del Partido Comunista Chino en los campos de la ideología, la comunicación, la cultura y las ciencias sociales. Se responsabilizó de la dirección ideológica del Diario del Pueblo, donde desarrolló toda una práctica del control de la información y la acción propagadística tipificada en situaciones y respuestas a la luz de la doctrina política. Ejerció una gran influencia en la política de medios de comunicación y su influencia cultural en China. Enemigo de la libertad de expresión como concepto burgués, luchó contra la "contaminación espiritual" de Occidente y sus manifestaciones consumistas. El la sociedad socialistas, entendía, los medios eran un instrumento al servicio de la revolución y, en ningún caso, no de manipulación y alienación. Primer presidente de la Academia China de Ciencias Sociales.
Miembro del Secretariado del Comité Central del Partido Comunista, fue víctima de la Revolución Cultural. Rehabilitado políticamente en 1975, en 1981 fue elegido miembro del Buró Político del Comté Central. Abandonó la política activa en 1987. En 1994 se publicaron en China textos de Qiaomu relativos a su trabajo con Mao. En 1999, apareció una edición con más de 250 ensayos y discursos. En 2002 apareció una colección de cartas escritas entre 1945 y el año de su muerte, 1992, en las que aborda la teoría marxista, el periodismo, la literatura, etcétera.