Sau khi đế quốc La Mã miền Tây sụp đổ, miền Đông (lúc này đã trở thành cường quốc quân chủ Hy Lạp Byzantine) bắt đầu các chiến dịch khôi phục lại lãnh thổ toàn La Mã xưa kia. Danh tướng Belisarius dẫn quân chinh phục vương quốc Vandal ở châu Phi, rồi đổ bộ chiếm bán đảo Ý từ tay người Ostrogoth. Nhưng một đội quân lớn do vua Goth là Vitiges kéo đến đã buộc Belisarius phải rút vào thành Rome cố thủ và chờ tiếp viện.

Quân Byzantine trong thành có tổng cộng 10.600 lính chính quy và một số lượng không xác định lính nghĩa vụ. Phía Goth có 45.000 quân, chủ yếu là bộ binh.

Thành Rome thời đó vẫn còn rất rộng lớn, quân Goth không đủ người để chia ra bao vây nên họ lập bảy trại lớn chặn các cổng và đường chính dẫn vào thành. Nguồn nước qua các mương dẫn (aqueducts) cũng bị chặn, khiến khẩu phần ăn bị giảm sút do các cối xay lúa mì chạy bằng sức nước không hoạt động. Dù Belisarius cho xây tạm những cối xay nổi trên sông Tiber thì vẫn không đủ nhu cầu. Sự bất mãn bắt đầu nhen nhóm nhưng đã bị trấn áp bằng những biện pháp mạnh. Khi phát hiện giáo hoàng Silverius bí mật liên hệ với quân Goth, tướng Belisarius truất phế luôn giáo hoàng (sau chết ở nơi đi đày) và đưa người khác lên thay. Vụ việc này khiến ông bị mang tiếng xấu trong Thiên Chúa giáo rất lâu về sau.

Trước khi tấn công, vua Vitiges cử sứ giả đến đề nghị thành Rome đầu hàng, quân Byzantine sẽ được phép rời đi, mang theo tất cả những gì có thể. Belisarius từ chối. 18 ngày sau đó, 4 tháp hãm thành khổng lồ từ từ tiến về cổng Salarian ở phía Bắc vào sáng sớm, theo sau là các khối quân Goth mang thang. Belisarius thân chinh đến quan sát và nhận ra điểm yếu: do công nghệ lạc hậu nên các tháp hãm thành đó có trọng lượng quá lớn, ngoài người đẩy phải dùng thêm bò kéo mới di chuyển được. Các cung thủ cũng như máy bắn tên La Mã được lệnh nhắm bắn những con bò này, và 4 tòa tháp khựng lại khi chưa áp sát được tường thành. Vitiges bèn chia quân ra tấn công các đoạn tường thành thấp có thể dùng thang leo vào. Cuộc chiến đặc biệt dữ dội ở cổng Vivarium, lăng mộ hoàng đế Hadrian và cổng Cornelian. Cuối cùng nhờ các máy bắn tên và máy bắn đá, người La Mã phá hủy các xe đập cửa thành (Battering Ram) và đẩy lùi đối phương.

Dù biết hoàng đế Justinian đã gửi quân tiếp viện, nhưng do khoảng cách xa (Constatinople cách Rome hơn 2200 km đường bộ, đường thủy còn xa hơn) nên Belisarius hiểu rằng còn phải chờ rất lâu. Các biện pháp an ninh nghiêm ngặt được áp dụng: chìa khóa cổng thay đổi 2 tuần 1 lần, lính canh cũng được luân chuyển thường xuyên, và cuối cùng thì đá tảng được chất đống sau cổng chính để không thể mở nó ra được dù có chìa.

Hai bên án binh bất động cho tới khi một cánh viện quân Byzantine đột ngột tới khiến Belisarius rất vui mừng. 1600 lính đánh thuê gốc Huns và Slav, tất cả là kỵ binh bắn cung. Họ được chia nhỏ ra đánh du kích và khiến các trại Goth khốn đốn (do không có cung thủ). Sau một vài thắng lợi, Belisarius quyết định mở cổng thành đánh ra. Hai bên dàn trận với đội hình truyền thống: bộ binh ở giữa, kỵ binh hai cánh. Giai đoạn đầu thì quân Byzantine chiếm ưu thế, những trận mưa tên từ kỵ cung khiến hàng ngũ Goth rối loạn và phải bỏ trại rút lui sau một đợt cận chiến ngắn. Tuy nhiên đám lính nghĩa vụ vô kỷ luật đã tự ý rời đội hình để tranh cướp nhau chiến lợi phẩm trong doanh trại đối thủ, đến nỗi khi người Goth tái tập hợp lại và đánh tiếp thì quân Byzantine vỡ trận. Cuối cùng kỵ cung đã phải dùng hết tên mới yểm trợ được cho bộ binh rút về.

Trong hơn 1 năm bao vây Rome, vua Goth Vitiges đã thử đủ mọi cách, kể cả cho lính đột nhập qua mương dẫn nước hay dùng gián điệp mua chuộc lính canh, nhưng đều bất thành. Khi biết tin các cánh viện quân Byzantine đã đổ bộ vào Ý và đang hình thành thế bao vây mình, người Goth – mệt mỏi vì bệnh dịch và hết lương –  quyết định đốt trại và rút về thành Ravenna. Belisarius tung kỵ binh rượt theo hậu quân địch, và đánh tan tác họ ở cầu Milvian, nơi hàng nghìn người chết trận hoặc bị đuối nước. Vua Vitiges bỏ chạy về kinh đô của dân Goth lúc đó là Ravenna. Hai năm sau ông ta dồn sức đánh với Belisarius một trận lớn và lần này thì Vitiges bị bắt sống. Thành Rome sau thời Belisarius sẽ còn đổi chủ rất nhiều lần cho tới khi trở thành kinh đô của Giáo hoàng quốc (Papal State) năm 781.