Fue fundado el 14 de agosto de 1924. Su primer presidente fue Vicente Otero. El equipo forma parte de la Liga del Sur (Bahía Blanca), donde disputa partido oficiales. Villa Mitre es un barrio ubicado en la ciudad de Bahia Blanca, en el cual viven poco menos de 80.000 habitantes (2009). Su nombre homenajea a Bartolomé Mitre, quien murió en enero de 1906. Su vecino primigenio, el señor Santos Cicchini, ocupó el 18 de junio del mismo año su vivienda de la calle Rivadavia 1371. Curiosamente, el loteo iniciado por Carlos Pronsato fue publicitado como La Reina de las Villas, denominación que la barriada conserva aún. Estuvo caracterizada por trabajadores de clase media y baja, en su mayoría inmigrantes que fueron poblando la ciudad en los años 30, con el esplendor de la cosecha fina de granos, los cuales se exportaban masivamente a través del puerto bahiense. Villa Mitre integra el área residencial conocido como Las Tres Villas, junto a los barrios Tiro Federal y Bella Vista. El 14 de agosto de 1924 se fundó el Sportivo Villa Mitre, siendo su primer sede, un terreno baldío ubicado en la esquina de las calles Rivadavia y Parera. La comunidad sirio - libanesa que poblaba el barrio le dio 3 colores originales a su insignia: rojo, blanco y negro.
1936 sería un año histórico para el club: inauguró su sede social definitiva, en Garibaldi 149 (fue el primer club bahiense en conseguirlo); al mismo tiempo, la Comisión Directiva aprobó cambiar el color rojo del escudo original, por el verde, como homenaje al pueblo palestino. En 1953 se inauguró el Estadio El Fortín, ubicado en el predio circundado por las calles Maipú, Necochea, Caseros y Godoy Cruz. Se encuentra en un sector que incluye los barrios Villa Mitre, Villa Loreto y Rosendo Lopez, y frente a la zona que, años más tarde, ocuparía el Barrio Obrero. La sede social también alberga al estadio José Martínez (homenaje a un ex-presidente del club), con capacidad para 2.500 espectadores, donde juegan los planteles de básquet, voley y hándbol. No obstante, dichos equipos tienen también sus respectivas canchas. Villa Mitre también tiene un complejo para divisiones menores de fútbol, sóftbol y hóckey, un natatorio y un salón de usos múltiples, donde se desarrollan actividades como el patín artístico, artes marciales y gimnasia. En 1926 el equipo de fútbol de Villa Mitre comenzó a participar en la Liga del Sur, torneo donde intervienen equipos de Bahía Blanca y localidades cercanas, tales como Ingeniero White, General Daniel Cerri, Punta Alta y Cabildo. Dicha liga tiene el privilegio de ser la más antigua del interior de Argentina. En 1929, el equipo logró el título del Torneo Promocional (Segunda División de la Liga), y ascendió a Primera. Su primer campeonato en el torneo local llegó en 1940; y 4 años más tarde, el segundo, junto a la coronación en el desaparecido Torneo Provincia de Buenos Aires. Luego de algunos años, incluyendo un descenso (año 1987), en 1991 volvió a coronarse campeón de la Liga e inició una campaña que lo llevó a ser tetracampeón liguista (1991, 92, 93, y 94). Estas circunstancias le permitieron alcanzar instancias finales del Torneo del Interior, mostrando un fútbol ofensivo, creativo y eficaz. Algunos jugadores destacados de ese período fueron el defensa Gustavo Coronel, el centrocampista Alejandro Hidalgo y los delanteros Luis Eduardo "Paco" Sánchez, Daniel Paz y Pablo Gilardi. Villa Mitre cerró el siglo XX ascendiendo al torneo de Primera B Nacional: el sábado 31 de julio de 1999, en el Estadio Municipal de Tandil, superó por 3 a 1 al Club Atlético Douglas Haig de Pergamino, con goles de Martín Carrillo, Paz y Gilardi. Para el equipo fogonero anotó José Luis Pelanda, volante central que meses más tarde vestiría la casaca villamitrense. Curiosamente, Douglas Haig había impedido que Villa Mitre ascendiera el año anterior, cuando lo había vencido por 4 a 2 en el mismo estadio; además era el único equipo del interior del país que nunca había perdido la categoría, desde 1986. Más de tres mil hinchas del tricolor se acercaron a la ciudad serrana en una gran caravana para festejar en las tribunas. El club jugó 3 temporadas en la segunda división; pero el bajo presupuesto del plantel y los continuos cambios de cuerpo técnico incidieron en el descenso al Torneo Argentino A, producido el 13 de abril de 2002, cuando perdió de local ante Huracán de Tres Arroyos por 3 a 2. El 22 de Diciembre del 2005, La Villa le ganó por penales al equipo cordobés de General Paz Juniors, consagrándose campeón del apertura del Torneo Argentino A. El 28 de mayo de 2006 Villa Mitre volvió a la B Nacional, esta vez derrotando 4 a 3 en la definición por penales (empataron en 1 el tiempo reglamentario) a San Martín de Tucumán. Al Estadio La Ciudadela, de la capital tucumana, asistieron 30.000 tucumanos y 500 hinchas de Villa Mitre. Sobresalieron aquella tarde el guardameta Fermín Ponte y el delantero Iván Agudiak. Procurando mantenerse dentro del presupuesto y no comprometiendo el futuro del Club. Villa Mitre volvió al Argentino A fue por mediados del año 2007. Una empresa gerenciadora de Capital Federal se hizo cargo del fútbol del club con el visto bueno de su presidente Daniel Rodriguez. No obstante, sus resultados en las temporadas siguientes fueron más bien pobres, por lo cual la empresa devolvió a mediados de 2009 el manejo a la comisión directiva, encabezada por su presidente con la compañía de Gustavo Salazar y Martín Neuman. El 22 de Mayo de 2011 descendió del Torneo Argentino A al Torneo Argentino B, donde juega actualmente, tras una muy pobre campaña. Palmarés
Liga del Sur, segunda división (3): 1929, 1988 y 2002. Liga del Sur, primera división (8): 1940, 1944, 1991, 1992, 1993, 1994, 1998 y 2003
Torneo Argentino A (2): Apertura del Torneo Argentino A 2005 2005/06. Ascenso a Primera B Nacional: 1999 y 2006. Torneo Provincia de Buenos Aires 1944, clasificatorio a la Copa de la República 1944.