Fue concebido para permitir el acceso entre ambos márgenes del río Arno. A un lado del río está situado el Palacio Vecchio, y al otro el Palacio Pitti. Dada la cercanía de los palacios al puente, el Duque de Florencia, que pertenecía a la dinastía de los Médici, le encargó al arquitecto Giorgio Vasari la construcción de un pasadizo oculto que comunicara ambos palacios y de ese modo no tener que mezclarse con el pueblo llano en sus idas y venidas. Este pasadizo es el conocido Corredor Vasariano.
A lo largo del puente Vecchio se instalaron pequeños comercios. Primero fueron los herreros, carniceros y curtidores. Pero ante el mal olor que emanaba de la carne y pieles al paso del Duque por el corredor, ordenó trasladar estos comercios a otra zona de la ciudad y que fuera el gremio de los orfebres los que situaran sus tiendas en el viejo puente. Desde entonces los orfebres son los que ocupan estos comercios, de hecho actualmente son todos joyerías de gran prestigio.
El puente Vecchio, por su peculiaridad, ha sido el escenario elegido para numerosas películas, como El Perfume. Además fue uno de los primeros enclaves donde se siguió la tendencia de los "candados del amor", en la que las parejas de enamorados sellan su amor escribiendo sus nombres sobre un candado que posteriormente cuelgan en las rejas del puente lanzando al río la llave del mismo como símbolo de su amor eterno.
Una romántica costumbre que empezó en el Puente Milvio de Roma a raíz del libro de Federico Moccia "Ho voglia di te" (Tengo ganas de tí en castellano) y que se ha ido extendiendo por todo el mundo.
Desde la publicación del libro miles de personas realizan este ritual en puentes y edificios emblemáticos de diferentes ciudades, algo que se ha convertido en un problema para la conservación del patrimonio por la acumulación excesiva de candados. De hecho, el ayuntamiento de Florencia ha tenido que aprobar una ordenanza para multar a los incautos enamorados que cuelguen un candado en el emblemático puente. Una placa instalada en el mismo puente informa sobre esta sanción a los viandantes.