Tras su impresionante temporada en la Fórmula 3000 pasó a formar parte de Prost Grand Prix F1 en 2000. Exprimió al máximo su monoplaza y tras gran cantidad de retiradas y tuvo problemas con su compañero de equipo, Jean Alesi, en más de una ocasión. Salió del equipo Prosa al final de la temporada.

Poco después firmó un contrato de tres años con Sauber, acompañado con el conductor novato Kimi Räikkönen. Después del anuncio de la retirada de Mika Häkkinen, muchos pensaron que Heidfeld lo sustituiría en el equipo McLaren, pues había superado Räikkönen todo el año, con su mejor actuación al subir al podium en el GP de Brasil. Sin embargo, el asiento fue para Räikkönen, y Heidfeld se quedó Sauber en 2002 y 2003.

A finales de 2003, Heidfeld fue despedido y podía quedarse sin un lugar en 2004. Sin embargo, después de una serie de carreras acertadas Heidfeld se ganó una plaza para competir con Jordan, junto al novato Giorgio Pantano. Heidfeld impresionó con un coche mediocre, pero ningún otro equipo le quiso fichar en 2005.

Durante el invierno, Heidfeld probó con WilliamsF1, en un "shootout" con Antônio Pizzonia para conseguir el segundo monoplaza de la escudería. En el lanzamiento de Williams (31 de enero), se anunció Heidfeld sería el segundo conductor para el equipo en 2005.

En su séptima temporada como piloto, en el GP de su país (Nürburgring) consiguió por primera vez la 'pole position'. Igualó su mejor posición con Williams (segundo) en Mónaco. Luego se perdió las carreras en Bélgica e Italia por las lesiones sufridas en unas pruebas con su monoplaza. Retornó en el GP de Brasil, pero se lesionó de nuevo en un accidente de moto, circunstancia que le llevó a estar fuera durante el resto de la temporada. Sin embargo, se ganó un contrato de tres años con la intención de ser campeón en 2008.

La temporada 2006 fue mejor de lo esperado. Nick demostró estar en forma en el inicio de la campaña en Bahrain y de no haberle cerrado Nico Rosberg en una curva podría haber puntuado por primera vez. En la siguiente carrera, en Malasia, consiguió 4 puntos tras haber corrido durante mucho tiempo en la quinta posición. En Indianápolis sufrió un aparatoso accidente con Scout Speed, Kimi Räikkönen y Juan Pablo Montoya. 'Quick Nick' se recuperó y en Hungría volvio a subir al podium –el mejor resultado de su carrera-, pero con la irrupción de Robert Kubica volvió a ser cuestionado por los mejores resultados de su talentoso compañero.