罗马体育会于1927年7月成立之前，罗马已经有四支俱乐部：Roman、Alba-Audace、Fortitudo、拉齐奥。，但拉齐奥拒绝合并的要求。随后，其他俱乐部于1927年7月22日合并组建了新的俱乐部，即今天的罗马体育会，而拉齐奥拒绝合并亦是两队结怨的开始。俱乐部选用代表罗马的红色和为会徽及球衣的颜色，佛斯基成为了第一任主席。
成立初俱乐部比赛安排于Motovelodromo Appio进行，同年6月17日举行俱乐部第一场比赛，2比1击败来自匈牙利的UTE。接着1929年第一次参加国内职业足球联赛，以第六名完成联赛，这对于一支新成立的球队来说已经是表现不俗了。翌年，罗马击败摩德纳夺得意大利杯，创会短短一年就赢得全国性锦标。
罗马直到1941年夺得首个联赛冠军，可惜其后40年都未能有优异成绩，唯一庆幸是1961年夺得欧洲联盟杯冠军。80年代迎来了罗马队历史上最辉煌的一个时期。维奥拉成了球队的主席，他是罗马历史上最受爱戴的主席,上任后的第一个动作是把瑞典人利德霍尔姆重新请回罗马执教。在他们的带领下，1980年、1981年，罗马队蝉联意大利杯，联赛中也连续走进前三名，并在1982-1983年赛季，捧得该队历史上第二个联赛桂冠，这是40年来罗马队再次捧冠。
1984年，在罗马主场进行的冠军杯决赛中，罗马与利物浦战成1：1，为罗马进球的是普鲁佐。罗马在点球大战中败北，屈居亚军。 此后，罗马队增补了德国的哈斯勒、沃勒尔、、阿根廷的卡尼吉亚、巴尔博等人，一直在联赛中保持中游的排名。与拉齐奥相比，罗马显得更加富有城市气息，更加雅致动人。罗马队的偶像级人物、前意大利国脚贾尼尼可以说是罗马队的象征，他被称为意大利最后一个真正的中场组织者。由于与他翻脸而失去了球迷依赖的比安奇教练甚至惨遭俱乐部解雇。
捷克教头泽曼自入主罗马队后，两个赛季的成绩一直相当不错，分别名列第4和第5位。在他的带领下，罗马打出了令人赞叹的攻势足球，在保守的亚平宁刮起了一股清新的风潮，取得了诸如5：0击败AC米兰的伟大胜利。但由于泽曼一番意大利足坛普遍服药的高论使某些人把罗马队当成了“眼中钉”而频频遭到暗算，直接影响了球队的成绩,俱乐部无奈之下只得将其解聘，随后而来的卡佩罗正是接替泽曼的最佳人选。
经过漫长的等待，罗马历史上的第三个联赛冠军终于在2000-2001赛季姗姗来迟。卡佩罗的入主，托蒂、托马西的日渐成熟，战神巴蒂斯图塔、埃默森、萨穆埃尔等实力球员的加盟，使罗马成为一个极具竞争力的球队。在新世纪的第一个赛季里，罗马以无可争议的胜利获得了冠军，在长达34轮的联赛中，31轮牢据“领头羊”的位置，进球数和净胜球数均占意甲首位。同时，罗马打还出了亚平宁最赏心悦目和激动人心的足球，三个火掀起了如潮的攻势。2001年6月18日奥林匹克球场上演了经典的进球大战，是这个赛季最完美的注脚。