Le jour de l’an 1976, le champion du monde de boxe poids lourd Apollo Creed a défendu avec succès son titre par décision partagée contre le challenger Rocky Balboa. Rocky et lui sont transportés dans le même hôpital. Malgré leur accord mutuel de ne pas chercher à se venger, Apollo défie à nouveau Rocky, mais ce dernier refuse et se retire de la boxe professionnelle. Sa petite amie, Adrian, soutient son choix, tout comme ses médecins, qui lui révèlent qu’il devra être opéré d’une rétine décollée, ce qui pourrait le rendre définitivement aveugle. Dans un moment d’intimité, Rocky va voir Apollo en convalescence et veut une réponse franche à sa question de savoir si Apollo a tout donné dans le combat ; Creed confirme que oui. Une fois que Rocky est sorti de l’hôpital, il profite des avantages des changements survenus dans sa vie : La nouvelle célébrité de Rocky attire un agent qui voit en lui une mine d’or potentielle en matière d’endossement et de parrainage, et sa richesse soudaine l’encourage à demander Adrian en mariage. Elle accepte avec joie, et ils se marient lors d’une petite cérémonie. Peu après, Adrian révèle qu’elle est enceinte.
Pendant ce temps, alimenté par des courriers haineux affirmant qu’il a truqué le combat afin de protéger son règne de champion, Apollo devient obsédé par l’idée qu’une revanche est le seul moyen de prouver que la performance de Rocky était simplement un coup de chance. Déterminé à rectifier la seule tache de sa carrière de boxeur, Apollo ignore tous les appels de ses amis et de sa famille à oublier le combat, et exige au contraire que son équipe fasse tout ce qui est nécessaire pour pousser Rocky à sortir de sa retraite.
Rocky, au début, ne semble pas affecté par la campagne de dénigrement d’Apollo, mais son inexpérience avec l’argent lui cause des problèmes financiers. Après plusieurs tentatives infructueuses pour trouver un emploi, Rocky rend visite à Mickey Goldmill, son entraîneur et manager, dans son gymnase pour évoquer la possibilité de se battre à nouveau. Mickey refuse par souci de la santé de Rocky, mais il accepte bientôt après qu’Apollo ait publiquement insulté Rocky. Adrian confronte Rocky au danger de reprendre la boxe et lui rappelle le risque pour sa vue. Rocky affirme qu’il ne connaît rien d’autre et que c’est le seul moyen qu’il a de subvenir à leurs besoins. Adrian, furieuse contre Rocky qui n’a pas tenu sa promesse, refuse de le soutenir.
Rocky et Mickey commencent à s’entraîner, mais Rocky n’est pas concentré à cause de la désapprobation d’Adrian. Le frère d’Adrian, Paulie, confronte sa sœur au fait qu’elle ne soutient pas son mari, mais elle s’évanouit pendant la confrontation et est transportée d’urgence à l’hôpital, où elle entre en travail. Malgré sa prématurité, le bébé est en bonne santé, mais Adrian tombe dans le coma. Rocky se rend responsable de ce qui s’est passé, refusant de quitter le chevet d’Adrian jusqu’à ce qu’elle se réveille, et n’ira pas voir son nouveau bébé tant que celui-ci ne pourra pas être avec sa mère. Lorsqu’Adrian sort du coma, elle trouve Rocky à son chevet, et le couple voit son nouveau bébé, un garçon, qu’ils nomment Robert « Rocky Jr. ». Adrian donne sa bénédiction pour la revanche, et Rocky se met rapidement en forme pour le combat.
Lors de Thanksgiving, la nuit du match, Apollo se donne publiquement pour objectif de battre Rocky en deux rounds maximum, afin de prouver que le premier match qui avait tenu la distance était un coup de chance. Rocky, qui se bat en droitier pour protéger son œil au lieu de sa position naturelle de gaucher, est mis à terre deux fois par Creed et surclassé pendant la majeure partie du combat. Au quinzième et dernier round, Creed est largement en tête et n’a qu’à rester à l’écart de Balboa pour remporter le combat par décision. Cependant, Creed, qui ne veut pas que le combat se termine comme la première fois, ignore les supplications de son entraîneur de rester en retrait et tente de battre Rocky par KO. Au dernier round, Rocky revient à sa position naturelle et, de façon spectaculaire, déchaîne une série de contre-attaques sur Creed, renversant ainsi la tendance. Les deux hommes, épuisés, s’échangent des coups de poing jusqu’à ce qu’ils se mettent à terre. Alors que les deux hommes luttent pour se remettre sur pied, Rocky parvient à se relever au compte de 9 tandis qu’Apollo s’effondre d’épuisement, donnant à Rocky la victoire par KO, faisant de lui le nouveau champion poids lourd. Rocky fait ensuite un discours passionné à la foule et tient la ceinture au-dessus de sa tête avec un message pour sa femme, qui regarde le combat à la télévision : « Yo, Adrian, j’ai réussi ! »