Aan het hoofd van de Joint Chiefs of Staff
Toen de gekozen president George Bush (1924-) Powell vertelde dat hij een nieuwe nationale veiligheidsadviseur wilde benoemen, had Powell ervoor kunnen kiezen het leger te verlaten om een aanzienlijk inkomen te verdienen met het geven van lezingen of het geven van adviezen in de zakenwereld. Powell ging echter niet met pensioen. In plaats daarvan werd hij bevorderd tot generaal-majoor (een legerofficier die boven een luitenant-generaal staat) en kreeg hij de leiding over het Forces Command van het leger. In deze functie was hij verantwoordelijk voor het toezicht op de paraatheid van meer dan een miljoen reguliere, reserve en National Guard personeelsleden in de Verenigde Staten. Powell kreeg meer verantwoordelijkheid toen hij in 1989 door president Bush werd voorgedragen om voorzitter te worden van de Joint Chiefs of Staff (JCS; de groep die verantwoordelijk is voor het geven van militaire informatie en advies aan de president, de minister van defensie, en de National Security Council). Powell was de eerste zwarte officier die deze post bekleedde.
Als voorzitter van de JCS speelde Powell een sleutelrol bij de Amerikaanse militaire invasie van Panama in december 1989 om de militaire leider van dat land, Manuel Noriega (1938-), ten val te brengen. Eerder in 1989 had Noriega, die de Panamese regering sinds 1983 in handen had, presidentsverkiezingen afgelast. Noriega was ook betrokken bij de aan- en verkoop van illegale drugs en andere onwettige activiteiten. De Amerikaanse regering heeft Noriega omvergeworpen in een poging om de leider naar de Verenigde Staten te brengen voor berechting op beschuldiging van drugs, om Amerikanen te beschermen en om het Panamese volk zijn vrijheid terug te geven. Televisie-optredens waarin Powell het doel van de operatie uitlegde, brachten hem onder de gunstige aandacht van het Amerikaanse publiek.
Powell was ook zeer zichtbaar tijdens Operatie Desert Shield. Dit was een gezamenlijke inspanning van de Verenigde Staten en een aantal andere naties om Saddam Hoessein (1937-), de president van het land Irak in het Midden-Oosten, onder druk te zetten zijn troepen uit het buurland Koeweit te verwijderen. Irak had Koeweit in augustus 1990 bezet. Het werd al snel duidelijk dat deze operatie, in tegenstelling tot die in Panama, maanden zou duren en het risico inhield van hoge slachtoffers (doden onder de soldaten) als er oorlog zou uitbreken tussen de Irakezen en de internationale troepen.
Operatie Desert Shield ging op 16 januari 1991 over in Operatie Desert Storm, waarmee het zes weken durende conflict begon dat bekend werd als de Perzische Golfoorlog. Powell toonde opnieuw zijn leiderschap in deze periode, en het Iraakse leger werd snel verpletterd. Voor zijn aandeel in deze oorlog werd Powell door het Congres onderscheiden met een gouden medaille.