Se dice que el pintoresco pueblo localizado en la orilla norte del río Tungabhadra era el legendario Kishkindha, el reino del mono Príncipe Sugriva y el lugar donde se gestó la histórica dinastía Krishnadevaraya del glorioso imperio Vijayanagar, con palacios, monumentos, fuertes, templos y arrozales.
En Anegundi hay un asentamiento prehistórico llamado Onake Kindi. Existen rocas con arte rupestre y encontramos marcas rojas y blancas que contienen figuras humanas y una figura de un toro. En otra roca hay un diagrama circular que perteneció a la Edad de Hierro que data del año 1.500 a.C.
La historia de Anegundi data del siglo III a.C. bajo el imperio de Ashoka. Este lugar ha sido gobernado por varias dinastías como las dinastías de Shatavahanas, Kadambas, Chalukyas, Rashtrakutas, el Sultanado de Delhi, el imperio Vijayanagara y los Bahamanis.
A principios del siglo XIV en Anegundi se encontraba el contingente de elefantes de la armada de Vijayanagar. Anegundi en el idioma Kannada significa recinto de elefantes. Ésta fue la primera capital del Imperio Vijayanagar y capital de algunas otras dinastías.