Nasce a Vigevano il 17 novembre 1811.
Seguendo l’esempio del padre, nel 1834 si laurea in farmacia presso l’Università di Pavia. Nel 1837 prende in gestione l'Antica Farmacia di Brera, a Milano e avvia i primi esperimenti sull'uso terapeutico della Cannabis.
Nel 1849 promuove il commercio di preparazioni galeniche a base di canapa presso la sua farmacia. §Nel 1853 apre il primo laboratorio farmaceutico d’ Italia. Qui si impegna nella ricerca e nella produzione di medicinali fino ad allora importati solo da Francia e Germania. Questa attività riscontra un notevole successo: i suoi prodotti sono sempre più richiesti, in particolare la magnesia e l’estratto di tamarindo.
Nel 1859 Carlo Erba decide di ristrutturare la produzione su larga scala e di espandere il proprio mercato anche fuori dell'Italia. Il successo commerciale lo spinge, nel 1867, ad aprire uno nuovo stabilimento a Milano; in pochi anni diverrà la più grande industria chimico-farmceutica del Paese.
Fu scienziato e imprenditore, figura di spicco della Milano di metà Ottocento, Carlo Erba partecipava attivamente alla vita sociale ed economica milanese mettendo a disposizione della comunità i frutti dei propri successi.
Donò un’ingente somma al Politecnico di Milano per lo sviluppo di una scuola di elettrotecnica. Sostenne numerose attività filantropiche, avventuristiche e anche le ricerche mediche. Intuì inoltre l’importanza dello sviluppo dell’energia, promuovendo e partecipando alla fondazione della società Edison.
Carlo Erba amava profondamente il Lago di Como e commissionò la costruzione di questo motoscafo Anna, ai cantieri Taroni di Carate Urio. Era la più grande lancia a benzina costruita sul Lago, arredata lussuosamente con sedili Capitonnè in seta bordeaux e annessa toilette.
Carlo muore il 6 aprile 1888 nominando suo erede universale il fratello minore Luigi Erba, musicista, che gli succede alla guida dell'azienda.
Nel 1907 la CARLO ERBA contava 1200 operai, con un’imponente linea di produzione divisa fra le linee di chimica pura, chimica farmaceutica e chimica industriale.
La figlia di Luigi Erba, Carla, sposerà il Duca Giuseppe Visconti di Modrone e da questa unione nascerà Luchino Visconti di Modrone, uno dei più importanti registi, sceneggiatori e uomini di cultura del XX secolo.
Fra i padri del neorealismo italiano, ha diretto capolavori come Senso, Rocco e i suoi Fratelli, Bellissima (con una straordinaria Anna Magnani), La terra trema, Morte a Venezia e La caduta degli Dei.
Numerosi artisti vengono ospitati anche nella residenza cernobbiese di Villa Erba, sul Lago di Como, dove il giovane Luchino Visconti trascorre saltuariamente le vacanze estive, e chissà quanti ebbero il piacere e la fortuna di navigare il lago a bordo del motoscafo Anna.
Villa Erba è una casa che noi amiamo moltissimo. Ci riuniremo tutti là, fratelli e sorelle e sarà come al tempo in cui eravamo bambini e vivevamo all'ombra di nostra madre - Luchino Visconti
Anna è stata donata al Museo Barca Lariana dalla sorella di Luchino, Donna Uberta Visconti.