I rätt ände...
Det beror på.
Olika spel fokuserar på olika saker. Vissa kanske mer går ut på regler än något annat (D&D, EON etc) och då börjar man med reglerna.
Andra definieras av sina spelvärldar, metaplotter eller koncept, och då börjar man istället i den änden (V:tM, AFMBE, CoC etc).
Är man inte fullt så seriös, eller har ett spel där allt är lika viktigt, så skriver man lite i taget inom alla sfärer.
Så... egentligen - börja i rätt ände. Det spelar ingen större roll vad andra gör, så länge du gör vad som är rätt för ditt projekt.
Själv brukar jag börja med en grundidé av något slag. Något som motiverar mig att skapa en värld runtomkring för att stödja den grundidén. Sedan expanderar jag allting i en spiral utåt från denna grundidé, och kommer i slutänden ha regler, värld och allt annat definierat.
Denna metod fungerar för mig. Däremot är det många idéer som aldrig blir mer än just idéer, för att de inte lyckas ge mig tillräckligt med inspiration eller helt enkelt faller i glömska.
Det är sådana idéer jag hittar några år senare och gör en kampanj av