Za datę założenia Oslo zwykło się uznawać, w oparciu o Sagę królewską Snorriego Sturlussona rok 1048, zaś za założyciela - króla Haralda III Surowego (Haralda Hardråde). Jednak najnowsze odkrycia archeologiczne wykazały, że miasto zostało założone już przed rokiem 1000, dlatego tę właśnie datę uznaje się za oficjalny rok założenia Oslo. Pierwotnie miasto leżało u ujścia rzeki Alna. Istnieją różne hipotezy co do znaczenia nazwy miasta - jedne z nich tłumaczą je jako "równinę u podnóża zbocza" lub "równinę bogów". Patronem Oslo widniejącym w jego herbie, jest św. Hallvard, który - jak głosi legenda - poświęcił w 1043 swoje życie w obronie kobiety niesłusznie oskarżonej o kradzież.

Od XI wieku mieściło się w Oslo biskupstwo katolickie, zaś około 1300 roku Haakon V Długonogi (Håkon V Magnusson) wybudował na zachód od pierwotnej osady Oslo fortecę Akershus, którą wybrał na swoją siedzibę. W 1384 ludność Oslo została zdziesiątkowana przez dżumę. Osłabiona tym Norwegia zawarła wraz z Danią i Szwecją w 1397 roku unię kalmarską, w wyniku której Norwegia na ponad 400 lat stała się uzależniona od Danii. W czasie unii Oslo utraciło status stolicy i podupadło ekonomicznie. Na losy Oslo duży wpływ miała również Reformacja 1537, która doprowadziła do separacji od kościoła katolickiego i powstania Narodowego Kościoła Protestanckiego.

W 1624 stara osada Oslo padła ofiarą ogromnego pożaru, jakoby wznieconego specjalnie przez cztery czarownice. Król Danii i Norwegii, Chrystian IV Oldenburg, postanowił odbudować miasto, lecz nie tam, gdzie do tej pory leżało, ale w pobliżu murów Twierdzy Akershus. W ten sposób powstało nowe renesansowe, zbudowane na planie kwadratu miasto, noszące zresztą również nowe imię - Christiania (w latach 1877-1925 nazwę tę zapisywano jako Kristiania).

W chwili rozwiązania unii z Danią (1814) miasto odzyskało status stolicy Norwegii. Pomimo zawarcia nowej unii, tym razem ze Szwecją, zachowało ten status. W czasach unii miasto przeżyło rozkwit - w XIX wieku powstało tu wiele siedzib nowych instytucji m.in. zamek królewski, uniwersytet, parlament Stortinget, teatr narodowy, bank norweski, giełda.

W 1905 roku unia ze Szwecją została rozwiązana, a Norwegia stała się wreszcie w pełni niepodległym państwem. W 1925 roku przywrócono stolicy uświęcone tradycją miano Oslo.

Oslo organizowało w 1952 roku Zimowe Igrzyska Olimpijskie. W Oslo trzykrotnie odbyły się mistrzostwa świata w narciarstwie klasycznym (w roku 1930, 1966 oraz 1982). Planowana jest też organizacja mistrzostw w 2011.