1927年12月11日，张太雷等人在广州发动广州起义，工人赤卫队攻打位于维新路(今广州起义路)的广东省立公安局，12日下午广州苏维埃政府在此宣布成立。广州起义失败后苏维埃政府随即废止。虽然广州公社仅存三天，却是中国大城市里建立的第一个苏维埃政府，被誉为"东方巴黎公社"。

1949年广州解放后，公安局被广州市人民政府所接管，并于此设立广州市公安局。1956年，广州市政府把南楼辟为广州起义陈列室，对内开放。1987年，广州市公安局移交了旧址的南楼、中楼及门楼等建筑给文物部门，后对旧址进行维修复原，成立了广州起义纪念馆。叶剑英曾为此题字"广州公社旧址"。因广州市公安局办公场所有限，直至2005年底，广州市公安局才向文物部门移交了余下的旧址北楼和拘留所。2006年开始重新修葺纪念馆，在此期间在旧址北楼挖出炮弹、手枪等文物。2007年重开。

尽管广州市公安局最后全部移交旧址，但现时广州市公安局仍在广州起义纪念馆旁，与广州起义纪念馆共享同一门牌号。

旧址于1961年被国务院选入为全国重点文物保护单位。同时广州起义纪念馆隶属广东革命历史博物馆。