Oorsprong
In 1880 besloot paus Leo XIII de archieven van het Vaticaan voor onderzoek open te stellen. Dit initiatief deed in Nederland de wens ontstaan de Romeinse archivalia met informatie over het nationale verleden toegankelijk te maken. Op instigatie van de Leidse hoogleraar prof.dr. P.J. Blok en van mr Victor de Stuers, de chef van de afdeling 'Kunsten en Wetenschappen' van het ministerie van Binnenlandse Zaken, werd daartoe in 1904 het Nederlands Instituut te Rome opgericht en werd de historicus dr. Gisbert Brom tot directeur benoemd.

De eerste decennia
Vanaf het eerste moment kregen ook de studies van de Romeinse Oudheid en van de Kunstgeschiedenis een plaats in het profiel, maar de aanstelling van stafleden op die terreinen liet nog een aantal jaren op zich wachten. In 1909 werd de kunsthistoricus G.J. Hoogewerff aangetrokken. De benoeming van de archeoloog H.M.R. Leopold, vertraagd door de Eerste Wereldoorlog, volgde in 1920. Het aantreden van Hoogewerff als directeur in 1924 ging gepaard met de instelling van de nog steeds bestaande drie wetenschappelijke afdelingen: geschiedenis, kunstgeschiedenis en oudheid. In de eerste decennia na de oprichting werd de oorspronkelijke onderzoekstaak steeds verder uitgebreid. Meer en meer kreeg het Instituut een bemiddelende rol voor Nederlandse wetenschappers van diverse cultuurhistorische disciplines in Italië.

Sinds 1933 is het Instituut gevestigd in een eigen gebouw in de Valle Giulia, een gebied dat tijdens het fascistische regime bestemd werd voor verschillende internationale instituten. Het gebouw van het Instituut, dat onderdak biedt aan een grote bibliotheek, werkruimtes en gastenverblijven, kwam tot stand uit een samenwerking van de Italiaanse ingenieur Gino Cipriani en de Haagse architect Jan Stuyt. In de loop der jaren heeft het gebouw een aantal ingrijpende aanpassingen en uitbreidingen ondergaan die evenwel het oorspronkelijke ontwerp niet wezenlijk hebben aangetast.

De opening van het gebouw in de Valle Giulia, 1933:
directeur Godfried Hoogewerff doet Mussolini uitgeleide

Recente ontwikkelingen
In 1991 is de status van ministeriële instelling gewijzigd in die van een interuniversitair instituut dat wordt bestuurd door vertegenwoordigers van zes Nederlandse universiteiten en twee ministeries. Aan de Rijksuniversiteit Groningen is het beheer toevertrouwd.

Op 16 augustus 2004 heeft H.M. Koningin Beatrix ter gelegenheid van het honderdjarig bestaan aan het instituut het predikaat Koninklijk toegekend. De geschiedenis van het Instituut wordt beschreven in het bij uitgeverij Verloren verschenen boek Institutum Neerlandicum MCMIV-MMIV geschreven door Hans Cools en Hans de Valk.