In tegenstelling tot wat de naam doet vermoeden, ligt de oorsprong van de sudoku niet in Azië. De sudoku heeft zijn bestaan te danken aan het Latijns Vierkant, een uitvinding van Zwitsers rekenkundige Leonhard Euler. In de jaren 1780 ontwikkelde hij de basis van de sudoku. Euler kwam op het idee om cijfers op een manier te positioneren dat elk cijfer slechts één keer in elke rij en kolom zou voorkomen. Hij gebruikte in zijn vierkant Latijnse symbolen, vandaar de naam.
Een Latijns vierkant van de orde n is een vierkant van n rijen en n kolommen, gevuld met n verschillende symbolen waarvan elk precies één keer per rij en ook één keer per kolom voorkomt. Latijnse vierkanten worden gebruikt bij tafels van vermenigvuldiging, het ontwerpen van experimenten en het detecteren van fouten.
De sudoku is in feite een gemuteerde vorm van het Latijns Vierkant met een vak van 9 op 9 waarin nog kleinere vakken van 3 op 3 zitten. Howard Garns, een gepensioneerd architect en freelance puzzelmaker uit Indianapolis in de Verenigde Staten, voegde een extra regel toe om de sudoku te creëren zoals wij die nu kennen. Elk cijfer mag slechts één maal voorkomen in elk vak van 9 op 9.
In 1979 werd de puzzel onder de naam “Number Place” (in het Nederlands “Nummer Plaats”) voor het eerst in verschillende kranten en magazines gepubliceerd.
Het is pas later dat er de naam sudoku aan werd gegeven, doordat de puzzel in Japan werd geïntroduceerd in 1984 door Nikoli onder de naam ‘Suuji wa dokushin ni kagiru’, wat vertaald kan worden als ‘getallen blijven alleen’. Gelukkig werd de Japanse naam verkort tot sudoku.
In 1997 zag Wayne Gould, een Nieuw-Zeelandse gepensioneerde, een sudoku en werkte vervolgens 6 jaar aan een computerprogramma om sudoku's op te stellen. Hij verkocht de hele zaak aan The Times die op 12 november 2004 begon met het publiceren van de puzzels. Een nieuwe rage was geboren. In 2005 werd de puzzel ook in Nederland en België geïntroduceerd. De sudoku won al snel aan populariteit omdat verschillende kranten dagelijks een sudoku in hun krant opnamen.