Nació en el Campo de la Cruz, en Juan A. de la Peña, partido de Pergamino (al norte de la provincia de Buenos Aires) el 31 de enero de 1908.2 Su infancia transcurrió en Agustín Roca, partido de Junín, donde su padre trabajaba en el ferrocarril. Inicialmente estudió violín con el Padre Rosáenz, el cura del pueblo. Más tarde aprendió a tocar la guitarra en la ciudad de Junín con el concertista Bautista Almirón, quien sería su único maestro. Inicialmente vivió en Junín en la casa de Almirón; posteriormente regresó al pueblo de Roca y viajaba 16 kilómetros a caballo para tomar las lecciones en la ciudad.3
Atahualpa Yupanqui descubrió la música de Sor, Albéniz, Granados y Tárrega, y también las transcripciones para guitarra de obras de Schubert, Liszt, Beethoven, Bach, Schumann. Luego, ya más grande, se trasladaba 16 km a caballo desde Roca a Junín.
En 1917 con su familia pasó unas vacaciones en Tucumán, y allí conoció un nuevo paisaje y una nueva música, con sus propios instrumentos, como el bombo y el arpa india, y sus propios ritmos, la zamba, entre ellos.1 La temprana muerte de su padre lo hizo prematuramente jefe de familia. Jugó tenis, boxeó y se hizo periodista. Fue improvisado maestro de escuela, luego tipógrafo, cronista, músico y fundamentalmente, agudo observador del paisaje y del ser humano. A los 19 años de edad, compuso su canción «Camino del Indio».4 Emprendió un viaje a Jujuy, Bolivia y los Valles Calchaquíes. En 1931 recorrió Entre Ríos, afincándose un tiempo en Tala. Participó en la fracasada sublevación de los hermanos Kennedy, en la cual estuvieron envueltos también el coronel Gregorio Pomar y Arturo Jauretche, que inmortalizó la patriada en su poema gauchesco El Paso de los Libres. Después de esta derrota debió exiliarse en Uruguay. Pasó por Montevideo, para luego dirigirse al interior oriental y el sur del Brasil.
En 1934 reingresó a la Argentina por Entre Ríos y se radicó en Rosario (Santa Fe). En 1935 se estableció en Raco, provincia de Tucumán. Pasó brevemente por la ciudad de Buenos Aires —donde diversos intérpretes comenzaban a popularizar sus canciones— para actuar en radio. Recorrió después Santiago del Estero, para retornar por unos meses a Raco en 1936. Realizó una incursión por Catamarca, Salta y Jujuy. Más tarde visitó nuevamente el Altiplano en busca de testimonios de las viejas culturas aborígenes. Retornó a los Valles Calchaquíes, recorrió a lomo de mula los senderos jujeños y residió por un tiempo en Cochangasta, provincia de La Rioja.
A causa de su afiliación al Partido Comunista su obra sufrió la censura durante la presidencia de Juan Perón, fue detenido y encarcelado varias veces. Al respecto ha dicho Yupanqui:
«En tiempos de Perón estuve varios años sin poder trabajar en la Argentina… Me acusaban de todo, hasta del crimen de la semana que viene. Desde esa olvidable época tengo el índice de la mano derecha quebrado. Una vez más pusieron sobre mi mano una máquina de escribir y luego se sentaban arriba, otros saltaban. Buscaban deshacerme la mano pero no se percataron de un detalle: me dañaron la mano derecha y yo, para tocar la guitarra, soy zurdo. Todavía hoy, a varios años de ese hecho, hay tonos como el Si menor que me cuesta hacerlos. Los puedo ejecutar porque uso el oficio, la maña; pero realmente me cuestan.» Atahualpa Yupanqui5
Atahualpa se fue a Europa en 1949. Édith Piaf lo invitó a actuar en París el 7 de julio de 1950. Inmediatamente firmó contrato con «Chant du Monde«, la compañía de grabación que publicó su primer LP en Europa, «Minero soy», que obtuvo el primer premio de Mejor Disco de la Academia Charles Cros, que incluía trescientos cincuenta participantes de todos los continentes en el Concurso Internacional de Folclore. Posteriormente, viajó extensamente por Europa.
En 1952, Yupanqui regresó a Buenos Aires, donde rompió su relación con el Partido Comunista, lo que hizo más fácil para él concertar actuaciones en radio. Mientras que con su esposa Nenette construía su casa de Cerro Colorado (Córdoba), Yupanqui recorría el país. Musicalizó las películas Horizontes de piedra (1956), basada en su libro Cerro Bayo y Zafra (1959), actuando también en las mismas.6
El reconocimiento del trabajo etnográfico de Yupanqui se generalizó durante la década de 1960, y con artistas como Mercedes Sosa, Alberto Cortez y Jorge Cafrune grabaron sus composiciones y lo hicieron popular entre los músicos más jóvenes, que se refieren a él como Don Ata.
Yupanqui alternaba entre sus casas en Buenos Aires y Cerro Colorado, provincia de Córdoba. Durante 1963 y 1964, realizó una gira por Colombia, Japón, Marruecos, Egipto, Israel e Italia. En 1967 realizó una gira por España estableciéndose finalmente en París. Volvió periódicamente a la Argentina y apareció en Argentinísima II en 1973, pero estas visitas se hicieron menos frecuentes cuando la dictadura militar de Jorge Videla llegó al poder en 1976.
En 1985 obtuvo el Premio Konex de Brillante como mayor figura de la historia de la música popular argentina.7 En 1986 Francia lo condecoró como Caballero de la Orden de las Artes y las Letras. En 1987 volvió al país para recibir el homenaje de la Universidad Nacional de Tucumán. Debió internarse en Buenos Aires en 1989 para superar una dolencia cardíaca, pese a lo cual en enero de 1990 participó en el Festival de Cosquín.
Sin embargo, a los pocos días Yupanqui cumplió un compromiso artístico en París. Volvió a Francia en 1992 para actuar en Nîmes, donde se indispuso y falleció el 23 de mayo. Por su expreso deseo, sus restos fueron repatriados y descansan en Cerro Colorado.