O grupo foi formado em 1967 na cidade homônima. A formação inicial do grupo, inicialmente chamado de The Big Thing, incluía Walter Paraider no saxofone, Lee Loughnane no trompete, Terry Kath na guitarra e voz, Danny Seraphine na bateria, James Pankow no trombone e Robert Lamm no órgão e voz. No começo, a banda não tinha baixista, mas, em Dezembro de 1967, o baixista e vocalista Peter Cetera juntou-se a eles, vindo da banda rival The Exceptions.
Sob a orientação do empresário e produtor James William Guercio, que, inicialmente, tinha dado à banda o nome de Chicago Transit Authority (nome que teve depois de ser reduzido porque o Departamento de Trânsito de Chicago não autorizou o uso do nome), a banda mudou-se para Los Angeles e assinou com a gravadora Columbia Records. Em 1969, foi editado o seu álbum de estréia, "Chicago Transit Authority", que vendeu mais de 2 000 000 de cópias e colocou quatro singles nas paradas musicais, fato que se repetiria ao longo da sua carreira e nos álbuns seguintes, cada um deles com uma ligeira variação na capa, na qual, ao lado do logotipo da banda, era acrescentada a numeração do respectivo disco.
A música do Chicago era uma mistura de estilos, desde o rock até a música pop, incorporando elementos do jazz e da música clássica. Mas, depois do tema de Cetera
"If You Leave Me Now" se tornar disco de ouro e chegar ao primeiro lugar das paradas em 1976, o grupo começou a compor mais baladas românticas.
Após a morte de Terry Kath em 23 de Janeiro de 1978, ocorrido por um acidente com arma de fogo, o Chicago entrou em declínio, com fatos como o aumento do consumo de drogas entre seus integrantes e a crise gerada pela descoberta de graves informações sobre James William Guercio, seu empresário - entre elas, a de que ele estaria roubando a banda, terminando em sua demissão. A banda, então, decidiu acabar com os numerais romanos nos nomes dos álbuns, partindo para o diferente e ousado Hot Streets, já com o substituto de Kath, o guitarrista e vocalista Donnie Dacus, que, anos antes, havia atuado no filme Hair (baseado no musical homônimo). Ele permaneceu por dois álbuns: Hot Streets (1978) e Chicago 13 (1979), mas não se ajustou ao ritmo da banda e foi demitido em seguida. A banda tentou entrar na era da Disco Music lançando o single Street Player, composição de Danny Seraphine e David Hawk Wolinsky, produção de Phil Ramone e participação do trumpetista canadense Maynad Ferguson e de Ayrto Moreira. Mas o álbum não vendeu muito bem e eles receberam um ultimato da gravadora CBS: se não conseguissem atingir o número de vendas desejado no álbum seguinte, seriam demitidos. Então, mudaram seu estilo radicalmente para um rock mais pesado no álbum Chicago 14 (1980), convidando o guitarrista Chris Pinnick - que soava assustadoramente como Terry Kath, segundo James Pankow -, mas os esfroços de nada adiantaram. O álbum foi fracasso de vendas e o Chicago foi demitido, assinando em seguida com a gravadora Warner Brothers.
Danny Seraphine, um dos únicos músicos sóbrios na banda, resolveu tomar a frente do trabalho e procurou por um novo substituto para Terry. Contactou Bill Champlin, cantor e multiinstrumentista, famoso por seu trabalho anterior com a banda californiana The Sons Of Champlin. Este, por sua vez, chamou seu amigo de longa data e ex-companheiro de banda (os dois trabalharam juntos na banda Airplay), o produtor canadense David Foster. David aceitou o desafio de produzir o próximo álbum da banda, mas contando que eles aceitassem as mudanças que ele propunha, com uma nova proposta quanto a seu estilo. Nasce então a fase de baladas do Chicago, com o álbum Chicago 16, de 1982, e sua faixa mais famosa, Hard to Say I'm Sorry, composição da dupla Peter Cetera / David Foster, que renderia outras várias composições de sucesso tanto para o Chicago quanto para a carreira solo de Peter Cetera, anos mais tarde. O álbum vendeu um milhão de cópias e colocou a banda de volta às paradas de sucesso.
Peter se desligou da banda em 1985, após um ultimato dado pelos colegas. Alguns afirmam que Cetera estava com excesso de vaidade, querendo que seu nome aparecesse em destaque, mas os outros não concordaram; ele não queria sair mais em turnê pois, além de estar exausto de passar meses na estrada fazendo shows, estava com uma filha pequena e queria acompanhar seu crescimento. A banda queria desesperadamente sair em turnê, para aproveitar seu ressurgimento no cenário musical e o grande sucesso dos álbuns Chicago 16 e Chicago 17. Peter, então, decidiu realizar o sonho que vinha acalentando há muitos anos: seguir carreira solo. Peter já tinha lançado um álbum solo em 1980, já na nova gravadora, Warner. Mas ele suspeita que a gravadora boicotou o álbum para não prejudicar e ofuscar a banda.
A banda seguiu e audicionou algumas pessoas para ocupar a vaga de substituto de Peter Cetera, alguém que preenchesse os requisitos básicos: ter voz aguda (tenor) e ser baixista. Acharam o substituto perfeito,
Jason Scheff, filho do baixista da banda de Elvis Presley, Jerry Scheff. Ironicamente, ele foi descoberto quando mandou uma canção demo para o repertório do segundo álbum solo de Peter Cetera, Solitude/Solitaire (1986).
Em 1990, no meio de uma turnê, o baterista da formação original, Danny Seraphine, foi demitido, e a alegação seria de que ele não estava mais tocando como antes, e não se dedicava mais nem se aperfeiçoava. Até hoje paira no ar uma mágoa de Danny, ele não toca muito no assunto mas já deixou claro que considera injusta sua demissão, até porque seu papel foi fundamental no ressurgimento da banda. Entra em seu lugar o baterista Tris Imboden, que também tocou com Chaka Khan, Earth, Wind & Fire, Doobie Brothers, Al Jarreau, Anita Baker, David Foster, entre outros, e gravou com Peter Cetera(no álbum One More Story - 1988), Bill Champlin (no álbum solo Burn Down the Night-1994), David Foster, Kenny Loggins, o guitarrista brasileiro Ricardo Silveira, entre outros.
Em seguida, entrou para a formação o Guitarrista Dawayne Bailey, que durou pouco e foi substituído por Keith Howland, já para a tour de 1999. Ele permanece na banda até os dias de hoje, como guitarrista e vocalista, dividindo as vozes agudas com Jason Scheff.
Da formação original ficaram apenas Robert Lamm, tecladista, e o naipe de metais, formado por Lee Loughnane, trumpetista, James Pankow, trombonista, e Walt Parazaider, saxofonista.
Em 1993 gravaram o álbum Stone of Sisyphus, que a gravadora se recusou a lançar nos EUA, por não considerar o álbum um 'produto vendável'. O álbum chegou a ser lançado no Japão, mas não vingou. A banda então resolveu se desligar da gravadora e lançar seu selo independente, a Chi Records.
Em 1995, lançaram o álbum "Night and Day- Big Band", pela Giant Records, com vários standarts de Jazz com nova roupagem.
Lançaram em 2006 o álbum Chicago XXX, pela Rhino Records, uma subdivisão da Warner Bros. A Rhino também relançou versões remasterizadas da maioria de seus álbuns, com acréscimo de faixas inéditas, que foram gravadas na época dos ábuns mas não entraram na edição original.
Atualmente estão em turnê com o álbum Chicago XXX e fizeram também recentemente uma turnê com o grupo Earth, Wind & Fire, que virou DVD.
A banda passou em setembro de 2010, pela primeira vez, no Brasil, tocando ao lado da banda de folk-rock America.
